LLM-lərin yaratdığı şifrələr: Təhlükəsizlikdə yeni və gözlənilməz boşluq?

Süni intellekt və şifrə təhlükəsizliyi

Süni intellekt modelləri, xüsusilə böyük dil modelləri (LLM), gündəlik həyatımızda şifrə yaratmaq üçün istifadə olunur. Lakin Irregular şirkətinin apardığı yeni araşdırma göstərir ki, bu modellərin yaratdığı şifrələr gözlə görünəndən daha zəif və asan təxmin ediləndir.

LLM-lərin şifrələrində təkrarlanan nümunələr

Claude, ChatGPT və Gemini kimi məşhur LLM-lər 16 simvollu, xüsusi simvollar, rəqəmlər və hərflərdən ibarət şifrələr yaradır. Lakin bu şifrələrdə təsadüfi seçim əvəzinə müəyyən nümunələr üstünlük təşkil edir. Məsələn, Claude-nun şifrələrinin çoxu böyük "G" hərfi ilə başlayır, ikinci simvol isə demək olar ki, həmişə "7" olur. Digər simvollar arasında "L", "9", "m", "2", "$" və "#" tez-tez təkrarlanır.

ChatGPT şifrələrinin çoxu "v" hərfi ilə başlayır, ikinci simvol isə təxminən yarısında "Q" olur. Gemini şifrələrinin çoxu isə böyük və ya kiçik "K" hərfi ilə başlayır, ardınca isə adətən "#", "P" və ya "9" simvolları gəlir.

Araşdırmaçılar qeyd edirlər ki, LLM-lər şifrələrdə təkrarlanan simvolların olmamasına diqqət etsələr də, bu, əslində şifrələrin təsadüfi olmadığını göstərir.

Təhlükəsizlik səviyyəsi və risklər

Şifrə təhlükəsizliyi entropiya ilə ölçülür – bu, şifrənin nə qədər çətin təxmin edilə biləcəyini göstərir. Təhlükəsiz sayılan 16 simvollu şifrə təxminən 98 bit entropiyaya malik olmalıdır. Lakin LLM-lərin yaratdığı şifrələr yalnız təxminən 27 bit entropiyaya malikdir, yəni onlar sürətli brute-force hücumlarına qarşı çox zəifdir.

Irregular şirkəti bildirir ki, "LLM-lərin yaratdığı şifrələr fundamental olaraq zəifdir və bu, sadə prompt dəyişiklikləri və ya temperatur tənzimləmələri ilə düzəldilə bilməz. İnsanlar və proqramlaşdırma agentləri LLM-lərə şifrə yaratmaq üçün güvənməməlidir". Gemini isə istifadəçilərə onun yaratdığı şifrələrdən həssas hesablar üçün istifadə etməməyi tövsiyə edir.

İnsanlar və texnologiya arasında etimadsızlıq

Bu nəticələr göstərir ki, süni intellekt hələ də təhlükəsizlik sahəsində yetərincə inkişaf etməyib. İnsanlar və proqramçılar LLM-lərin yaratdığı şifrələrə güvənərkən ehtiyatlı olmalıdırlar. Araşdırmaçılar GitHub və digər texniki sənədlərdə LLM-lərin yaratdığı şifrə nümunələrinin aşkarlandığını bildirir ki, bu da real təhlükə yaradır.

Anthropic, OpenAI və Google isə mövzu ilə bağlı hələlik şərh verməyiblər.

Nəticə

Süni intellektin şifrə yaratmaqda ciddi çatışmazlıqları var. Bu, həm fərdi istifadəçilər, həm də şirkətlər üçün xəbərdarlıqdır. Təhlükəsiz şifrə üçün insan faktoru və xüsusi alətlər hələ də vacibdir.