Daxildən gələn süni intellekt təhlükəsi: EY-dən 12 həyati önəmli tövsiyə

Süni intellektin daxili təhlükəsi

Süni intellekt (SI) texnologiyaları sürətlə inkişaf edir və kibertəhlükəsizlikdə həm müdafiə, həm də hücum vasitəsi kimi geniş tətbiq olunur. Lakin EY şirkətinin hesabatına görə, ən ciddi təhlükə təşkilatların daxilindən, yəni işçilərin AI-dan nəzarətsiz və idarəsiz istifadəsindən yaranır.

EY-nin 12 təhlükəsizlik tövsiyəsi

EY kibertəhlükəsizlik sahəsində çalışan CISO-lara (məlumat təhlükəsizliyi rəhbərləri) proaktiv olmağı tövsiyə edir. Şirkət 12 əsas tövsiyə təqdim edib. Bunlar arasında daxili AI istifadəsinin davamlı monitorinqi, idarəetmə siyasətlərinin hazırlanması və işçilərin AI-nın düzgün və yanlış istifadəsi barədə maarifləndirilməsi var.

AI-nın avtonomluğu və gözlənilməz risklər

EY-nin təhlükəsizlik eksperti Dan Mellen bildirir ki, “təşkilatlar işçilərin AI istifadəsinə dair təhlükəsizlik qaydalarını yuxarıdan aşağıya tətbiq etməlidir”. AI agentlərinin avtonomluğu gözlənilməz davranışlara səbəb ola bilər, bu da əlavə risklər yaradır. Daxili AI sistemlərinin zəiflikləri red-teaming üsulu ilə yoxlanmalı, məlumat mənbələri isə diqqətlə xəritələnməlidir.

Hücum və müdafiədə AI-nın rolu

Hesabatda vurğulanır ki, “AI müdafiəni sürətləndirmək və hücumları qabaqlamaq üçün imkan yaradır, lakin eyni zamanda hücumların mürəkkəbliyini və xərclərini azaldır”. Bu paradoks təşkilatların təhlükəsizlik strategiyalarını yenidən gözdən keçirməsini tələb edir.

İnsan faktorunun əhəmiyyəti

İşçilərin AI ilə yaradılan saxtakarlıqları, məsələn, dərin saxtakarlıqları (deepfake) və fişinq hücumlarını tanıması və düzgün istifadə etməsi vacibdir. EY həmçinin sənaye konfranslarında AI təhlükəsizliyi mövzularının müzakirə edilməsini və GPU təchizatı ilə ixrac nəzarətlərinin izlənməsini tövsiyə edir.

Nəticə

Süni intellektin daxili istifadəsi kibertəhlükəsizlikdə yeni və ciddi çağırışlar yaradır. EY-nin tövsiyələri təşkilatlara bu riskləri azaltmaq və AI-nın imkanlarından təhlükəsiz şəkildə faydalanmaq üçün yol xəritəsi təqdim edir. Bu, həm işçilərin, həm də rəhbərliyin məsuliyyətini artırır və gələcəyin kibertəhlükəsizliyində əsas rol oynayacaq.