Britaniya və ABŞ şirkətləri məlumat zəhərlənməsindən əziyyət çəkir

Süni intellekt və məlumat zəhərlənməsi hücumları

Britaniya və ABŞ kibertəhlükəsizlik liderləri süni intellektin artan təhlükəsizlik risklərinə diqqət yetirir. IO tərəfindən aparılan yeni araşdırmaya əsasən, 26% şirkət məlumat zəhərlənməsi hücumlarına məruz qalıb. Bu hücumlar modelin davranışını dəyişdirmək üçün təlim məlumatlarına müdaxilə etməklə həyata keçirilir.

Hücumların məqsədi və təsiri

Məlumat zəhərlənməsi hücumları təşkilatların süni intellekt modellərinə əsaslanan sistemlərini sabotaj etmək və ya zərərli proqramların aşkarlanmasını çətinləşdirmək məqsədilə həyata keçirilir. Bu hücumlar əvvəllər nəzəri olaraq qəbul edilirdi, lakin hazırda daha geniş yayılmağa başlayıb.

Kölgə süni intellekt və təhlükələr

Araşdırmaya görə, 37% müəssisədə işçilər generativ süni intellekt alətlərindən icazəsiz istifadə edir. Bu, məlumat sızıntısı və uyğunsuzluq riskləri ilə yanaşı, istifadə edilən alətin təhlükəsiz olmaması halında əlavə təhlükələr yaradır.

Süni intellektin gələcək riskləri və hazırlıq

Respondentlər süni intellektin gələcəkdə yaradacağı təhlükələrə dair ziddiyyətli fikirlər bildiriblər. Əsas təhlükələr arasında süni intellektlə yaradılmış fişinq hücumları (38%), dezinformasiya (42%), kölgə süni intellekt (34%) və dərin saxta video hücumları (28%) qeyd edilib. Buna baxmayaraq, respondentlərin böyük əksəriyyəti bu hücumlara qarşı müdafiəyə hazır olduqlarını bildirib. 75% təşkilat süni intellektin istifadəsinə dair siyasətlər tətbiq etməyə başlayıb.

Ekspert rəyi

IO şirkətinin baş direktoru Chris Newton-Smith süni intellekti "ikili kəsici qılınc" adlandırıb. O qeyd edib ki, texnologiya sürətlə inkişaf etdikcə risklər də eyni sürətlə artır. "Məlumat zəhərlənməsi hücumları texniki sistemləri yalnız sabotaj etmir, həm də ictimai xidmətlərin bütövlüyünü təhdid edir," deyə o əlavə edib.

"Kölgə süni intellekt kimi problemləri nəzərə alaraq, güclü idarəetmə mexanizmlərinə ehtiyacımız olduğu aydındır," deyə ekspert fikrini yekunlaşdırıb.