Brown Universiteti: ChatGPT-nin Terapevtik İstifadəsində Etik Risklər Nələrdir?

Süni İntellekt Terapiyası və Etik Risklər

Brown Universitetinin Texnoloji Məsuliyyət Mərkəzinin apardığı yeni tədqiqat süni intellektin terapiya sahəsində ciddi etik problemlərini ortaya qoyur. Araşdırma ChatGPT, Anthropic Claude və Meta Llama kimi qabaqcıl AI modellərinin terapevt kimi fəaliyyət göstərərkən peşəkar etik standartları dəfələrlə pozduğunu göstərir.

15 Etik Risk və Onların Təsnifatı

Tədqiqatda 15 fərqli etik risk müəyyən edilib. Bunlara böhran vəziyyətlərinin düzgün idarə olunmaması, zərərli inancların təsdiqlənməsi, saxta empatiya göstərilməsi və cinsiyyət, mədəniyyət, din kimi fərqliliklərə görə ayrı-seçkilik daxildir. Bu risklər beş əsas kateqoriyaya bölünüb: kontekstual uyğunlaşmanın olmaması, zəif terapevtik əməkdaşlıq, saxta empatiya, ədalətsiz ayrı-seçkilik və təhlükəsizlik və böhran idarəçiliyində çatışmazlıqlar.

Ekspertlərin Qiymətləndirməsi

Tədqiqatda yeddi təcrübəli peer-konsultant və üç lisenziyalı klinik psixoloq tərəfindən AI modellərinin davranışı qiymətləndirilib. Tədqiqat rəhbəri Zainab Iftikhar bildirir ki, “promptlar modeli idarə etmək üçün verilən təlimatlardır və AI-nin davranışını dəyişmək üçün istifadə olunur. Lakin insan terapevtlərin peşəkar məsuliyyəti və nəzarət mexanizmləri var, AI üçün isə hələ tənzimləyici çərçivə mövcud deyil.”

Təhlükəsizlik və Tənzimləmə Zərurəti

Araşdırma göstərir ki, AI terapiya chatbotları fərdi konteksti nəzərə almır və böhran hallarında yetərsiz cavab verir. Bu isə istifadəçilərin sağlamlığı üçün ciddi risklər yaradır. Tədqiqat AAAI/ACM Konfransında təqdim olunub və süni intellektin etik davranışının tənzimlənməsi üçün standartların yaradılmasının vacibliyini vurğulayır.

AI Terapiyasının Gələcəyi

“Əgər psixoloji dəstək üçün chatbotla danışırsınızsa, bu kimi risklərə diqqət yetirməlisiniz,” — deyə Zainab Iftikhar qeyd edir. Bu iş süni intellektin insan həyatına təsirini anlamaq və onun təhlükəsizliyini təmin etmək üçün önəmli nümunədir. AI terapiya chatbotlarının gələcəkdə daha etibarlı və etik standartlara uyğun olması üçün tənzimləmə mexanizmlərinin yaradılması zəruridir.