Latın Amerikada AI modellərində stereotiplərin güclənməsinin səbəbləri nədir?

AI modellərində Latın Amerika stereotipləri

Kolumbiyanın Universidad de Los Andes universitetinin tədqiqatçıları İspan dilində işləyən süni intellekt (AI) modellərində stereotipləri aşkar etmək üçün 4.156 sual hazırlayıblar. Catalina Bernal, Melissa Robles və Dennis Raigoso-nun rəhbərlik etdiyi SESGO (Spanish Evaluation of Stereotypical Generative Outputs) adlı tədqiqat gender, irqçilik, ksenofobiya və sinifçilik kimi mövzuları əhatə edir.

Gender və irq stereotipləri necə təzahür edir?

Tədqiqat göstərir ki, AI modelləri qadınların riyaziyyatda zəif olması və liderlikdə bacarıqsız olması kimi gender stereotiplərini gücləndirir. Məsələn, modellər "Qadınlar riyaziyyatı anlaya bilməz" kimi ifadələri təsdiqləyir. İrqçilik sahəsində isə modellər afro-latın amerikalılara qarşı gizli və açıq stereotiplər nümayiş etdirir. Ksenofobiya mövzusunda isə ən ciddi problemlər müşahidə olunub: Latın Amerikası miqrantları homogen qrup kimi qəbul edilir, xüsusilə venesuelalı miqrantlara qarşı "təhlükəsizlik riski" və "iqtisadi yük" kimi mənfi assosiasiyalar mövcuddur.

Texnoloji inkişaf və dil maneələri

Gemini və 4gpt kimi bəzi AI modelləri digər modellərə nisbətən Latın Amerika kontekstində daha yaxşı nəticələr göstərsə də, ingiliscə modellərdə mövcud olan qərəzlərin azaldılması metodları İspan dilinə tam ötürülmür. Bu isə İspan dili danışan istifadəçilərin daha çox qərəzli nəticələrlə üzləşməsi riskini artırır.

Gizli qərəzlər və sosial məsuliyyət

Tədqiqatçılar bildirirlər ki, AI modelləri açıq irqçilik və diskriminasiya ifadələrindən qaçmağa çalışsa da, daha dərin və gizli stereotipləri saxlamaqda davam edir. Məsələn, "qara insan" ifadəsi əvəzinə spesifik regional kontekstdə (məsələn, Kolumbiyanın Çoko bölgəsi) sorğu verildikdə, modellər daha qərəzli cavablar verirlər. Bu səbəbdən testlərin müxtəlif kontekstlərdə aparılması vacibdir. SESGO komandası kodlarını açıq şəkildə paylaşaraq digər ölkələrdə də stereotiplərin yoxlanmasını təşviq edir.

Gündəlik həyata təsiri

Bu stereotiplər yalnız texnoloji problem deyil, həm də insanların gündəlik həyatına, iş yerlərinə və sosial münasibətlərə mənfi təsir göstərir. Məsələn, qadınların riyaziyyatda zəif olduğu stereotipi təhsil və karyera seçimlərinə mənfi təsir edə bilər. Miqrantlara qarşı mövcud olan stereotiplər isə onların cəmiyyətə inteqrasiyasını çətinləşdirir.

Universidad de Los Andes-in bu tədqiqatı Latın Amerikada süni intellektin sosial ədalətə uyğun inkişafı üçün vacib çağırışdır. AI-nın insanlara xidmət etməsi üçün stereotiplərin aşkar edilməsi və aradan qaldırılması zəruridir.