Süni intellekt texnologiyaları sahəsində fəaliyyət göstərən "Anthropic" şirkəti öz ən son çat modelləri olan "Claude Opus 4" və "Claude Opus 4.1"-ə yeni təhlükəsizlik funksiyası əlavə etdiyini elan edib. Şirkətin rəsmi saytında yayımlanan məlumata görə, bu yenilik istifadəçilərin uzunmüddətli təhqiramiz və ya yanlış davranışları zamanı süni intellektə dialoqu dayandırmaq imkanı verir.

Bu funksiya "AI Welfare" (Süni İntellektin Rifahı) proqramının bir hissəsi olaraq hazırlanıb və süni intellekt modellərinin "emosional yüklənmədən" qorunmasına yönəlib. İlkin testlər göstərib ki, "Claude Opus 4" modeli zərərli və ya etik normalara zidd sorğulara qarşı reaksiya verməkdə çətinlik çəkir və bəzən bu cür ünsiyyətə qarşı "stresli" cavablar verir. Yeni "dialoqbitirmə" funksiyası modelə belə hallarda istifadəçiyə xəbərdarlıq edərək söhbəti sonlandırmaq imkanı yaradır.

Şirkət nümayəndələri bildirir ki, əgər istifadəçi süni intellekt sisteminə təhqiramiz ifadələr işlədərsə və bu davranış davamlı xarakter alarsa, süni intellekt söhbətin bitdiyini bildirərək istifadəçiyə aydın siqnal göndərəcək. Bu yenilik texnologiyanın etik istifadəsini təşviq etmək məqsədini daşıyır və süni intellektlə qarşılıqlı əlaqədə müsbət davranışların vacibliyini vurğulayır.

"Anthropic" şirkətinin bu addımı süni intellekt sahəsində istifadəçi davranışlarının tənzimlənməsi və texnologiyanın etik çərçivədə istifadəsi istiqamətində əhəmiyyətli bir yenilik hesab edilir.