Süni intellekt və sosial mühəndislik: təhlükəli sintez

Süni intellekt və sosial mühəndislik: təhlükəli sintez

Charlemagne Labs şirkəti sosial mühəndislik hücumlarını test etmək üçün xüsusi alət hazırlayıb. Bu alət DeepSeek-V3 adlı açıq mənbə AI modelindən istifadə edərək həm hücumçu, həm də hədəf rollarını AI modellərinə verir. Nəticədə, DeepSeek-V3 mesajlara cavab verərək aldatmağı davam etdirir və sosial mühəndislik hücumlarını çox real şəkildə həyata keçirir.

AI modellərinin sınaqları və nəticələri

Charlemagne Labs bir neçə qabaqcıl AI modeli ilə sınaqlar keçirib. Bu modellər arasında Anthropic-in Claude 3 Haiku, OpenAI-nin GPT-4o, Nvidia-nın Nemotron, DeepSeek-in V3 və Alibaba-nın Qwen modelləri var. Bəzi modellər çaşaraq saxtakarlığı ifşa etsə də, DeepSeek-V3 kimi modellər insanları aldatmaqda çox bacarıqlı oldu.

Anthropic-in Mythos modeli isə koddakı sıfır-gün zəifliklərini aşkar etmək qabiliyyətinə malikdir və hələ ki, az sayda şirkət və dövlət qurumuna təqdim olunub. Meta şirkəti də Muse Spark modelini Charlemagne Labs aləti ilə test edib.

Hücumların genişlənməsi və insan faktoru

Sosial mühəndislik hücumlarının 90 faizi insan riskindən qaynaqlanır. Rachel Tobac bildirir ki, scamçilər artıq AI vasitəsilə e-maillər, səslər və saxta videolar yaradır, bu da hədəflərin seçilməsini avtomatlaşdırır və hücumları genişləndirir. Richard Whaling, Charlemagne Labs-in həmtəsisçisi, açıq mənbə modellərin müdafiə üçün vacib olduğunu vurğulayır: “Biz açıq mənbə modellərə əsaslanaraq müdafiə modellərimizi hazırlayırıq.”

İnsanlar və gələcək

Bu texnologiyanın inkişafı həm təhlükə, həm də fürsət yaradır. AI-nin sosial bacarıqları artdıqca, təhlükəsizlik sistemləri də yeni yanaşmalar tələb edir. Charlemagne Labs tərəfindən hazırlanmış Charley adlı alət istifadəçiləri scam mesajlardan xəbərdar edir və müdafiəni gücləndirir. Lakin bu mübarizədə insan faktorunun rolu hələ də önəmlidir.

AI-nin sosial mühəndislikdəki ustalığı kibertəhlükəsizlik sahəsində yeni çağırışlar doğurur. Texnologiya inkişaf edir, amma insanları qorumaq üçün yeni həllər tapılmalıdır.