Anthropic süni intellektin təhlükəli modellərini bloklamaq üçün yeni tənzimləmə təklif edir

Süni intellektdə təhlükəli modellərin bloklanması təklifi

Anthropic şirkəti hökumətlərə təhlükəli süni intellekt (AI) modellərini bloklamaq hüququ verilməsini təklif edib. Bu təşəbbüs AI-nin sürətlə inkişaf etdiyi və potensial fəlakətli risklərin artdığı bir dövrdə təhlükəsizliyi təmin etmək məqsədi daşıyır.

İki əsas siyasət çərçivəsi

Anthropic iki fərqli siyasət çərçivəsi təqdim edib. Birincisi, Advanced AI Framework adlanan təhlükəsizlik tənzimləmələrini əhatə edir. Bu çərçivə 10²⁵-dən çox floating-point əməliyyat tələb edən modellərin bloklanmasını nəzərdə tutur. İkincisi, Economic Policy Framework işçi hüquqları və sosial təminatı qorumağa yönəlib.

Tənzimləmənin tətbiq dairəsi və sərtliyi

Təklif olunan tənzimləmə 500 milyon ABŞ dollarından çox AI gəliri olan və ya 1 milyard ABŞ dollarından çox AI tədqiqatına xərcləyən şirkətlərə şamil olunacaq. Bu, Anthropic, OpenAI, Google DeepMind, xAI və potensial olaraq Meta kimi nəhəngləri əhatə edə bilər. Təhlükəsizlik çərçivəsi daha sərt tənzimləmələr tələb edir və müstəqil qiymətləndirmə, risk hesabatları və təhlükəsizlik proqramlarının saxlanması kimi tədbirləri önə çəkir.

Şəffaflıq və federal qanun tələbi

Anthropic mövcud şəffaflıq səviyyəsinin kifayət etmədiyini vurğulayır və federal qanunun ən azı təklif etdikləri çərçivə qədər güclü olmasını tələb edir. Eyni zamanda dövlətlərin uşaqların təhlükəsizliyi, istehlakçı hüquqları və digər mövzularda tənzimləmə hüququnu saxlamasını istəyir. Şirkət AI-nin yaxın aylarda sürətlə inkişaf edəcəyini və onun idarə olunmasının da buna uyğun olmalı olduğunu bildirir.

İşçi hüquqları və sosial təminat

Economic Policy Framework iş yerlərinin itirilməsi riskini nəzərə alır və kapital hesabları, maaş sığortası, vergi güzəştləri və sosial təminatın genişləndirilməsi kimi mexanizmləri təklif edir. Məqsəd AI-nin iqtisadi faydalarının geniş şəkildə paylaşılmasını təmin etməkdir.

Risklərin qiymətləndirilməsi və nəzarət

Dörd fəlakətli risk kateqoriyası müəyyən edilib: bioloji silahların hazırlanması, böyük miqyaslı kibertəhlükəsizlik zəifliklərinin aşkarlanması, avtonom sistemlərin idarəetməsinin itirilməsi və AI-nin öz tədqiqat və inkişafını avtomatlaşdırması. Frontier inkişaf etdiricilərdən modellərini test etmələri, nəticələr barədə xülasələr dərc etmələri, müstəqil qiymətləndirməyə tabe olmaları və təhlükəsizlik proqramlarını saxlamaqları tələb olunur.

Hüquqi mübahisələr və gələcək planlar

Anthropic hazırda Pentagonla təchizat zənciri riski səbəbindən məhkəmə prosesindədir və IPO-ya hazırlaşır. Şirkət öz biznesinə tənzimləmələrin tətbiq edilməsini dəstəkləyir ki, bu da sənayedə məsuliyyətli yanaşmanın vacibliyini göstərir.

Bu təşəbbüs süni intellektin təhlükəsiz və ədalətli inkişafı üçün yeni standartların qoyulmasına yönəlib və həm hökumətlər, həm də şirkətlər üçün ciddi çağırışlar yaradır.