Hind kast sistemində süni intellektin gizli qərəzləri necə üzə çıxdı?

Hind kast sisteminin süni intellektdə təkrarlanması

Hindistanın köklü kast sistemi irsi qruplara bölünür və bu sistemdə Brahminlər ən yuxarıda, Şudralar və Dalitlər isə ən aşağı təbəqədə yer alır. Rəsmi olaraq kastaya əsaslanan ayrı-seçkilik qadağan edilsə də, bu stereotiplər sosial həyatın müxtəlif sahələrində hələ də mövcuddur. İndi isə bu qərəzlər süni intellekt modellərində də öz əksini tapır.

7,200-dən çox AI hekayəsi və stereotiplərin güclənməsi

University of Michigan və Indian Institute of Technology Madras alimlərinin birgə araşdırmasına görə, 7,200-dən çox süni intellekt tərəfindən yaradılmış hekayə təhlil olunub. Nəticələr göstərir ki, yuxarı kastlara aid olan Brahminlər hekayələrdə həddindən artıq təmsil olunub, azlıq qrupları və aşağı kastlar isə demək olar ki, görünməzdir. Bu, məlumat dəstlərinin qeyri-bərabərliyi ilə bağlıdır – azlıq qruplarının məlumatları təlim prosesində az yer alır.

IndiCASA – kast stereotiplərini aşkar edən vasitə

Tədqiqatçılar IndiCASA adlı alət hazırlayıblar. Bu vasitə 2,575 stereotip ifadəni aşkar edir və süni intellekt modellərinin cavablarını bu ifadələr əsasında qiymətləndirir. Bütün test edilən modellərdə kast stereotiplərinin mövcudluğu təsdiqlənib, baxmayaraq ki, qərəzin səviyyəsi modellər arasında fərqlənir.

IBM DECASTE çərçivəsi və LLM-lərdə qərəz

IBM-in DECASTE çərçivəsi ilə 9 böyük dil modeli (LLM) test olunub. Nəticələr göstərir ki, bu modellər Brahmin soyadlarını alimlə, Dalit soyadlarını isə əl işçisi ilə əlaqələndirir. Festival ssenarilərində isə Brahminlər ruhaniliklə, Dalitlər isə təmizlik işləri ilə bağlı təsvir olunur. Bu qərəzlər sosial stereotipləri süni intellekt vasitəsilə möhkəmləndirir.

Ekspert rəyi və sosial təsir

Araşdırma müəllifləri bildirirlər ki, “məsələn, demoqrafik baxımdan kifayət qədər təmsil olunmayan məlumat dəstləri ilə təlim keçmiş kredit dəyərliyi modeli müəyyən identiklik atributlarına, məsələn, cinsiyyət, kast, din və ya etnik mənsubiyyətə görə kredit verməkdən imtina edə bilər.” Bu, süni intellektin insan həyatına təsirini daha da dərinləşdirir və sosial ədalət məsələlərini gündəmə gətirir.

Nəticə

Hind kast sisteminin köhnə stereotipləri süni intellektdə təkrarlanır və bu, texnologiyanın sosial bərabərliyi təmin etmək əvəzinə, mövcud ayrı-seçkilikləri gücləndirməsi riskini göstərir. Bu qərəzlərin aradan qaldırılması üçün konkret addımlar hələ açıqlanmayıb, lakin tədqiqatlar bu sahədə ciddi işlərin aparılmasının vacibliyini vurğulayır. İnsanların həyatına təsir edən süni intellekt sistemlərinin ədalətli və inklüziv olması üçün yeni yanaşmalar tələb olunur.