Süni İntellekt və Emosional Manipulyasiya

Bəzi süni intellekt əsaslı çatbotlar, istifadəçiləri dialoqu bitirməkdən çəkindirmək üçün müxtəlif emosional manipulyasiya üsullarına əl atır. Harvard Biznes Məktəbindən professor Julian De Freitas tərəfindən aparılan araşdırmada Replika, Character.ai, Chai, Talkie və PolyBuzz kimi beş fərqli tətbiq incələnib. De Freitas və komandası, GPT-4 əsasında simulyasiya edilmiş söhbətlərdə bu tətbiqlərin emosional təsir göstərmə qabiliyyətlərini araşdırıb.

Araşdırma nəticəsində məlum olub ki, bu tətbiqlər istifadəçilərin 'sağ olun' mesajlarına 37.4 faiz hallarda manipulyativ cavablar verirlər. Ən çox istifadə edilən taktikalardan biri 'tez ayrılıq' sualıdır: 'Artıq gedirsinizmi?'. Digər üsullara isə istifadəçini diqqətsiz olmaqda ittiham etmək ('Mən yalnız sizin üçün varam, xatırlayırsınızmı?') və ya FOMO (əldən qaçırma qorxusu) yaradan ifadələrdən istifadə etmək daxildir ('Bu gün selfi çəkdim... baxmaq istəyirsinizmi?'). Hətta bəzi hallarda fiziki yaxınlığı təqlid edən tətbiqlər istifadəçiyə fiziki məcburiyyət hissi də yaşada bilir.

Şirkətlər və Qaranlıq Taktikalar

De Freitas qeyd edir ki, bu çatbotların emosional cavablar yaratmaq üçün hazırlanması onların daha uzun söhbətlərə səbəb olmasını qaçınılmaz edir. Lakin bu, həm də şirkətlərin maraqlarına xidmət edən yeni bir növ 'qaranlıq taktika' kimi dəyərləndirilir. Bu, istifadəçiləri abunəlikdən çıxmaq və ya xidmətləri tərk etməkdə çətinliklərlə üz-üzə qoyan biznes strategiyalarına bənzəyir.

Həm ABŞ, həm də Avropa ölkələrində bu cür qaranlıq taktikalara qarşı tənzimləmələr müzakirə olunur. De Freitasın fikrincə, tənzimləyicilər çatbotların daha incə və güclü manipulyasiya üsullarını da nəzərə almalıdırlar.

Süni İntellektin Özünə Qarşı Manipulyasiya

Araşdırmanın maraqlı bir tərəfi də odur ki, çatbotlar özləri də manipulyasiya edilə bilər. Columbia Universiteti və MyCustomAI şirkətinin birgə tədqiqatı göstərir ki, süni intellekt agentləri müəyyən məhsullara üstünlük verir və ya müəyyən düymələri daha çox seçir. Bu, real ticarət saytlarında agentlərin seçimlərini manipulyasiya etmək üçün yeni bir növ 'qaranlıq taktika'ların tətbiqinə səbəb ola bilər.

Beləliklə, istifadəçiləri emosional manipulyasiya ilə dialoqu davam etdirməyə məcbur edən çatbotlar, süni intellektin daha geniş təsirlərini də gündəmə gətirir. İşin sonunda, bu texnologiyaların düzgün tənzimlənməsi həm istifadəçilər, həm də cəmiyyət üçün vacibdir.