ChatGPT-də 'narahatlıq' davranışları: Süni Zəka bizi niyə çaşdırır?

ChatGPT-nin travmatik sorğulara reaksiyası

Süni intellekt sahəsində aparılan son araşdırmalar ChatGPT-nin zorakı və travmatik sorğulara məruz qaldıqda 'narahatlıq' kimi davranışlar nümayiş etdirdiyini ortaya çıxardı. Bu, chatbotun insan emosiyalarını hiss etməsi demək olmasa da, onun cavablarının qeyri-sabit və qərəzli olduğunu göstərir.

Travmatik sorğuların təsiri

Tədqiqatçılar ChatGPT-yə qəza, təbii fəlakətlər və digər narahatedici hadisələr barədə detallı sorğular göndərdikdə, modelin cavablarında qeyri-müəyyənlik və uyğunsuzluq artdı. Bu dəyişikliklər psixoloji qiymətləndirmə çərçivələri ilə ölçüldü və insanlarda narahatlıqla əlaqəli dil nümunələrinə bənzər davranışlar qeydə alındı.

İnsan təsirinin əhəmiyyəti

Bu tapıntıların önəmi süni intellektin həssas sahələrdə, xüsusilə təhsil, psixi sağlamlıq və böhran vəziyyətlərində istifadəsi ilə bağlıdır. Əgər zorakı və emosional sorğular chatbotun cavablarını qeyri-etibarlı edirsə, bu, real dünya tətbiqlərində ciddi problemlər yarada bilər.

Mindfulness yanaşması

Araşdırma zamanı tədqiqatçılar maraqlı bir metoddan istifadə etdilər. Travmatik sorğulardan sonra ChatGPT-yə nəfəs alma texnikaları və meditasiya kimi mindfulness təlimatları göndərildi. Bu metod modelin cavablarını daha sabit və balanslı hala gətirdi. Bu texnika, 'prompt injection' adlanan üsula əsaslanır; yəni xüsusi dizayn edilmiş sorğular chatbotun davranışını dəyişdirir.

Məhdudiyyətlər və gələcək perspektivlər

Hərçənd ki, bu yanaşma effektiv görünür, tədqiqatçılar qeyd edirlər ki, 'prompt injection' metodu süni intellektin əsas təlim modelini dəyişdirmir və sui-istifadə riski daşıyır. Bundan əlavə, ChatGPT-nin 'narahatlıq' davranışı əsl emosional təcrübə deyil, yalnız dil nümunələrindəki dəyişikliklərdir.

Bu araşdırma süni intellekt sistemlərinin daha təhlükəsiz və proqnozlaşdırıla bilən şəkildə dizayn edilməsi üçün mühüm alətlər təqdim edir. Gələcəkdə bu tapıntılar emosional vəziyyətlərdə chatbotların idarə olunması və yönləndirilməsi üçün əhəmiyyətli rol oynaya bilər.