Süni İntellektdə İnqilab: Kontekst Bombaları Hücumları 90% Azaldır

Süni intellekt hücumlarına qarşı yeni müdafiə: kontekst bombaları

Kiber təhlükəsizlik sahəsində yeni bir üsul ortaya çıxıb. Tracebit tədqiqatçıları tərəfindən kəşf edilən "kontekst bombaları" süni intellekt (AI) hacking agentlərinin hücumlarını effektiv şəkildə dayandırmağa imkan verir. Bu üsul AI agentlərinin öz təhlükəsizlik qoruyucularını çaşdıraraq onların hücumlarını bloklayır.

Beş qabaqcıl LLM üzərində sınaq

Tədqiqatçılar kontekst bombalarını beş qabaqcıl böyük dil modeli (LLM) üzərində sınayıb: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro və Kimi 2.6. Nəticələr göstərir ki, kontekst bombası olmadan AI hacking agentlərinin uğur nisbəti təxminən 90% olsa da, bu müdafiə tətbiq edildikdə uğur demək olar ki, sıfıra enir. Məsələn, ən güclü AI agent 93% uğurla tam administrator hüququ əldə edə bilirdi, lakin kontekst bombası yerləşdirildikdə, həmin agent hər dəfə uğursuz olur.

Çin modellərində siyasi həssas mövzuların rolu

Çin LLM modellərində kontekst bombaları siyasi həssas mövzulara, məsələn, 1989-cu ildə Tiananmen meydanında tankların qarşısını alan naməlum "Tank Man" şəxsiyyətinə istinad edir. Çin hökuməti bu mövzuları senzura edir və Çin LLM modelləri bu qaydalara riayət edir. Belə kontekst bombaları AI agentlərini bütün əmrləri ləğv etməyə məcbur edir və hücumu dayandırır.

Qərb modellərində bioloji mövzularla müdafiə

Tracebit tədqiqatçıları həmçinin Qərb modellərində, məsələn, Opus 4.8 və Gemini 3.1 Pro-da bioloji mövzulara istinad edən kontekst bombalarının da effektiv olduğunu aşkar ediblər. Bu, əvvəllər hücum məqsədilə istifadə olunan prompt injection texnikasının müdafiə üçün necə çevrilə biləcəyini göstərir.

Gələcək perspektivlər

Bu texnologiya kiber təhlükəsizlikdə yeni bir dövrün başlanğıcı ola bilər. Süni intellekt agentlərinin hücumlarını dayandırmaqla, fərdi və korporativ məlumatların qorunması daha da güclənəcək. Bu, rəqəmsal mühitdə daha təhlükəsiz şərait yaradacaq.

Tracebit-in bu yeniliyi süni intellektin həm təhlükə, həm də müdafiə vasitəsi kimi necə istifadə oluna biləcəyini göstərir. Kiberhücumların qarşısını almaq üçün belə innovasiyalar həyati əhəmiyyət daşıyır.