Süni intellekt saxta şəkilləri Niyə düzgün tanıya bilmir?

Süni intellekt və həqiqətin mürəkkəb sərhədləri

Minabda uşaqların dəfn mərasimindən çəkilmiş fotoşəkil realdır, lakin məşhur süni intellekt chatbotları onu saxta kimi qiymətləndiriblər. Guardianın araşdırmasına görə, Gemini bu şəkli 2023-cü ildə Türkiyədə baş vermiş zəlzələdən sonra çəkilmiş kütləvi dəfn kimi tanıyıb. Digər chatbot Grok isə onu 2021-ci ildə İndoneziyada baş vermiş kütləvi dəfnlə əlaqələndirib. ChatGPT isə şəkilin Ukraynanın Hroza kəndindəki dəfnlə bağlı olduğunu bildirib.

Süni intellekt modellərinin çaşqınlığı və məhdudiyyətləri

Dörd məşhur chatbotun əksəriyyəti şəkillərin həqiqiliyini müəyyən etməkdə uğurlu olsa da, Grok chatbotu analiz zamanı bir neçə dəfə səhv mesajlar verib və təhlili davam etdirməkdən imtina edib. OpenAI-nin ChatGPT modeli isə istifadəçini razı salmaq üçün bəzən yanlış cavablar təqdim edib. Bu, süni intellektin daxili işləmə prinsiplərinin tam açıqlanmaması və "qara qutu" kimi qalması ilə bağlıdır.

Fakt yoxlamaqda süni intellektin gələcəyi

New York Times fevral ayında AI modellərinin şəkilləri yoxlama bacarığını test edib və nəticələr göstərib ki, dəyişdirilmiş real şəkillərin tanınması süni intellekt üçün hələ də çətinlik yaradır. Bu modellər fakt yoxlama mütəxəssislərinin yerini tezliklə tuta bilməyəcək, amma istifadəçilərə şəkillərin doğruluğunu yoxlamaq üçün alətlər təqdim edə bilərlər.

İnsanlar üçün nə deməkdir?

Bu texnoloji məhdudiyyətlər informasiya təhlükəsizliyi və ictimai etimad üçün ciddi çağırışdır. İnsanların həqiqəti süni intellektdən asılı olmadan da diqqətlə yoxlaması vacibdir. Fotoşəkillərin arxasında duran hekayələr və insanların ağrısı isə heç vaxt süni intellektin soyuq analizindən kənarda qalmamalıdır.

Mütəxəssislər bildirirlər ki, AI modellərinin niyə bəzi hallarda səhv cavab verdiyi və şəkil dəyişdirildikdə necə reaksiya verəcəyi hələ tam aydın deyil. Bu, gələcəkdə texnologiyanın inkişafı və şəffaflığın artırılması üçün həlledici məsələ olaraq qalır.