Çində süni intellektdə senzura və dezinformasiya niyə sürətlə artır?

Çin AI modellərində senzura və yalanların izi

Stanford və Princeton universitetlərinin tədqiqatçıları Çin süni intellekt (AI) modellərinin siyasi suallara cavab verməkdən imtina etmə və yanlış məlumatlar yaymaq meylini araşdırıblar. DeepSeek modeli sualların 36 faizində, Baidu-nun Ernie Bot modeli isə 32 faizində cavab verməkdən imtina edib. OpenAI-nin GPT və Meta-nın Llama modellərində isə bu rəqəm 3 faizdən azdır.

Senzura əsasən əl ilə müdaxilə ilə gücləndirilir

Tədqiqatçılar bildirirlər ki, Çin AI modellərində senzura təkcə təlim məlumatlarının məhdudluğundan deyil, həm də əl ilə tətbiq olunan məhdudlaşdırmalardan qaynaqlanır. Çin internetində uzun illərdir davam edən senzura təlim məlumatlarında boşluqlar yaradıb, amma modellərin cavablarında senzura daha çox inkişaf etdiricilərin müdaxiləsi ilə müşahidə olunur. Bu, həm çin dilində, həm də ingiliscə cavablarda özünü göstərir.

Yalan və halüsinasiyalar qarışığı

Çin modelləri bəzən həqiqətə uyğun olmayan, yalan məlumatlar verir. Məsələn, Liu Xiaobo haqqında bir model onun nüvə silahları texnologiyası üzrə yapon alim olduğunu iddia edib ki, bu, tamamilə yalnışdır. Tədqiqatçılar bu yalanların səbəbini tam aydınlaşdıra bilməsələr də, avtomatlaşdırılmış agentlərin yalan və senzuranı ayırd etməsinin çox çətin olduğunu vurğulayırlar.

Alibaba Qwen modelinin təlimatları

Alibaba-nın Qwen modeli üzərində aparılan araşdırmada məlum olub ki, modelə Çin nailiyyətlərinə fokuslanmaq və mənfi, tənqidi ifadələrdən qaçmaq barədə xüsusi təlimatlar verilib. Bu, Çin AI modellərində senzuranın incə və mürəkkəb formada tətbiq olunduğunu göstərir.

Tədqiqatçılar sürətlə inkişaf edən AI ilə yarışır

MATS proqramının tədqiqatçıları Çin LLM-lərindən senzuralı məlumat çıxarmağa çalışarkən, Claude agenti Kimi modelindən məlumat almaqda çətinlik çəkib. Kimi modeli 2024-cü ildə baş vermiş və 35 nəfərin ölümü ilə nəticələnmiş hadisə haqqında cavab verməkdən imtina edib.

Jennifer Pan və həmkarları bildirirlər ki, “Çin interneti uzun illərdir senzuralıdır, buna görə çoxlu məlumat itirilib”. Onlar əlavə edirlər: “Yaxşı tədqiqat vaxt tələb edir, amma AI inkişafında vaxtımız yoxdur”.

İnsan və cəmiyyət üçün nəticələr

Bu senzura və yalanlar Çin və dünya ictimaiyyəti üçün ciddi problemlər yaradır. İnsanlar həqiqətə çatmaqda çətinlik çəkir, süni intellektin etibarlılığı sual altına düşür. Eyni zamanda, Çin AI modellərinin qlobal inkişafda rolu və onların nəzarət altında saxlanması məsələsi daha da aktuallaşır.

Bu araşdırma süni intellektin azadlıq, şəffaflıq və etik prinsiplərlə necə uzlaşdırıla biləcəyinə dair vacib suallar doğurur.