Anthropic şirkəti Claude Opus 4 və 4.1 modelinin chat-versiyalarında yeni funksiyanı işə saldığını açıqlayıb. Bu funksiya süni intellektə istifadəçinin uzunmüddətli təhqiredici və ya qeyri-düzgün davranışı zamanı dialoqu tamamlayaraq sonlandırmağa imkan verir. Day.Az, Gazeta.ru-ya istinadən, bu məlumatın Anthropic-in rəsmi saytında yayımlandığını bildirir.

Yeni funksiyanın tətbiqi AI Welfare proqramı çərçivəsində həyata keçirilib. Bu proqram süni intellektin "rifahını" təmin etməyi hədəfləyir. İlkin testlər göstərib ki, Claude Opus 4 modeli zərərli sorğulara cavab verməkdən çəkinir və qeyri-düzgün ünsiyyət zamanı "stress reaksiyası" nümayiş etdirir. Dialoqu tamamlayıcı alət mövcud olduqda, model bu funksiyanı aktiv şəkildə istifadə edib.

İstifadəçi süni intellekti təhqir etdikdə, sistem istifadəçiyə dialoqun tamamlandığını bildirəcək. Bundan sonra istifadəçilərə yeni chat başlatmaq, geribildirim göndərmək və ya əvvəlki mesajları redaktə edərək dialoqu yenidən başlatmaq seçimləri təqdim olunacaq. Qeyd edək ki, bu yenilik API modellərinə şamil edilmir.

Anthropic-in nümayəndələri vurğulayıb ki, funksiya yalnız ən ekstremal hallarda işə düşür və sistem əvvəlcə istifadəçi ilə konstruktiv ünsiyyət qurmağa çalışır. Çoxluq istifadəçilər bu dəyişiklikləri hiss etməyəcək.

Şirkət əlavə edib ki, hazırda Claude və digər dil modellərinin potensial mənəvi statusu ilə bağlı məsələlər araşdırma mövzusudur. Bununla belə, Anthropic bu məsələləri ciddi qəbul edir və modellərə "rifahlarını" artırmaq üçün alətlər təqdim edir.