Anthropic ilk dəfə təhlükəli süni intellekt modelini məhdud təqdim edir

Yeni təhlükəli süni intellekt modeli: Claude Mythos Preview

ABŞ-ın süni intellekt startapı Anthropic yeni "Claude Mythos Preview" adlı model yaradıb. Şirkətin rəhbərləri bildirir ki, bu model çox güclüdür və geniş ictimaiyyət üçün təhlükəsiz deyil.

Sızma və məhdud təqdimat

Fevral ayında modelin daxili materialları və 500,000-dən çox kod sətri səhvən yayıldı. Anthropic bunu "insan səhvi, təhlükəsizlik pozuntusu deyil" kimi qiymətləndirib. Modelin təhlükəli funksiyaları tam məhdudlaşdırılana qədər geniş ictimaiyyətə təqdim edilməyəcək.

ABŞ hökuməti və sənaye tərəfdaşlığı

Anthropic modeli ABŞ hökumət təşkilatları ilə müzakirə edir və onlara təqdim edib. Şirkət "Project Glasswing" adlı sənaye tərəfdaşlığı qurub. Bu layihədə Apple, Amazon, Microsoft, Google və NVIDIA kimi 40-dan çox böyük şirkət iştirak edir. Layihənin məqsədi modelin proqram təminatındakı zəiflikləri aşkar edib aradan qaldırmaqdır.

Rəqabət və qadağalar

ABŞ Prezidenti Donald Trump Anthropic-in süni intellektinin hökumət orqanlarında istifadəsini 6 ay müddətinə qadağan edib. Bu qadağa Pentagonun təhlükəsizliyini riskə atdığı iddiası ilə bağlıdır. Eyni zamanda, ABŞ Müdafiə Nazirliyi Anthropic-in rəqibi OpenAI ilə gizli hərbi sistemlərdə istifadə üçün müqavilə bağlayıb.

Təhlükəsizlik və risk qiymətləndirilməsi

Anthropic modeli CBRN (kimyəvi, bioloji, radioloji və nüvə) təhlükələri, kibertəhlükəsizlik və zərərli manipulyasiya risklərini qiymətləndirir. Şirkət bu riskləri nəzərə alaraq modelin istifadəsini məhdudlaşdırır və təhlükəsizlik tədbirləri üzərində işləyir.

Gələcək perspektivlər

Modelin təhlükəli funksiyaları onun geniş yayılmasını məhdudlaşdırır, lakin seçilmiş texnologiya və kibertəhlükəsizlik şirkətlərinə təqdim olunması təhlükəsizlik sahəsində yeni imkanlar yaradır. Süni intellektin bu səviyyədə avtonom olması gələcəkdə həm ümid, həm də narahatlıq doğurur.

Anthropic-in bu addımı süni intellektin təhlükəsizliyi və etik istifadəsi mövzusunda yeni müzakirələrə səbəb olur.