420 Alimdən Şok Çağırış: AI və Kibertəhlükəsizliyə Sərt Nəzarət Zərurəti

Süni İntellekt və Kibertəhlükəsizlikdə Yeni Çağırış

Dünyanın 420-dən çox aparıcı alimi süni intellekt (AI) texnologiyalarının təhlükəsizliyinə dair ciddi narahatlıqlarını açıqlayıb. Onlar açıq məktubla AI modellərinin təhlükəsizlik yoxlamalarının artırılmasını və beynəlxalq nəzarət orqanlarının yaradılmasını tələb edirlər.

Alimlərin Səsi: Təhlükəsizlik Yoxlamalarına Daha Çox Diqqət

Məktub 430 alim tərəfindən imzalanıb, aralarında 2018-ci ilin Turing mükafatı laureatları Yoshua Bengio və Geoffrey Hinton, həmçinin Kalyari Universitetindən professor Battista Biggio da var. Biggio laboratoriyaların AI modellərini necə test etdiyini diqqətlə yoxlamağın vacibliyini vurğulayır. Onun sözlərinə görə, ənənəvi yoxlamalar ekspert qrupları tərəfindən əl ilə aparılırdı, lakin bu, kifayət qədər effektiv deyil.

AI-nin Hücum və Müdafiə Üstünlükləri

Süni intellekt proqramları proqram təminatındakı zəiflikləri sürətlə aşkar edə bilir. Bu, həm müdafiəçilərə, həm də hücumçulara üstünlük verir. AI hücumları avtomatlaşdırmağa və kütləvi şəkildə həyata keçirməyə imkan yaradır, müdafiə sistemlərinin bərpası isə vaxt və xüsusi bilik tələb edir. Buna görə də AI həm zəiflikləri tapmaq, həm də onları düzəltmək üçün müdafiə vasitəsi ola bilər.

Beynəlxalq Nəzarət və Şəffaflıq Tələbi

Alimlər beynəlxalq nəzarət orqanlarının yaradılmasını və şirkətlərin test nəticələrində şəffaflığın təmin edilməsini tələb edirlər. Onlar qeyd edirlər ki, kommersiya maraqları yoxlamaların müstəqil aparılmasını çətinləşdirə bilər. AI-nin cinayətkar məqsədlərlə istifadəsi real təhlükədir və aşağı bacarıqlı şəxslərin belə fırıldaqçılıq etməsinə şərait yaradır.

AI-nin İnsanlıq Üçün Riskləri və Ümidlər

Məktubda AI-nin insanlığın məhvi ilə bağlı qorxuların spekulyativ olduğu vurğulanır, lakin texnologiyanın təhlükəsizliyinə nəzarətin artırılması zəruridir. Avropa İttifaqı bu sahədə qabaqcıl rol oynayır və tənzimləmə işlərini davam etdirir. Bu çağırış, süni intellektin təhlükəsiz və məsuliyyətli inkişafı üçün yeni mərhələnin başlanğıcı ola bilər.