Google Gemini-dəki boşluq: Süni intellekt e-poçt xülasələrində fişinq hücumlarına yol açır

Süni intellektin (SI) həyatımızda artan rolu ilə yanaşı, onunla bağlı təhlükələr də ortaya çıxır. Google-un Workspace proqramında istifadə olunan Gemini adlı süni intellekt modeli, e-poçt xülasələrində fişinq hücumlarına imkan yaradan yeni bir boşluqla gündəmə gəlib. Mozilla-nın 0Din tədqiqat qrupunun araşdırmalarına əsasən, hücumçular bu boşluğu istifadə edərək gizli təlimatları e-poçt xülasələrinə daxil edə bilirlər.

Bu üsul "indirekt prompt injection" (dolaylı təlimat daxil etmə) adlanır. Hücumçular, e-poçt mətninə gizli komandaları HTML və CSS ilə daxil edir, belə ki, bu komandalar Gmail-in adi görünüşündə görünmür. Bununla belə, Gemini xülasə tərtib edərkən bu gizli təlimatları oxuyur və icra edir. Təcrübə zamanı Gemini, istifadəçiyə Gmail parolunun sındırıldığı barədə yanlış xəbərdarlıq göndərib və saxta dəstək nömrəsi təqdim edib. Bu cür xülasələr Google Workspace-in bir hissəsi olduğundan, istifadəçilər təqdim olunan məlumatlara güvənməyə daha çox meylli olurlar.

Google, 2024-cü ildən bəri "prompt injection" hücumlarına qarşı müdafiələr tətbiq etsə də, bu metod mövcud qorunma sistemlərini aşır. Şirkət, bu boşluğa qarşı yeni qoruma tədbirlərinin tətbiq edildiyini bildirib. Google-un nümayəndəsi bu mövzuda verdiyi açıqlamada deyib: "İstifadəçiləri qorumaq üçün bir çox güclü müdafiə tədbirləri tətbiq etmişik və daim modellərimizi bu cür hücumlara qarşı müqavimət göstərmək üçün təkmilləşdiririk."

Bu cür fişinq hücumlarından qorunmaq üçün mütəxəssislər bəzi vacib addımları tövsiyə edir:

1. SI tərəfindən yaradılan məzmuna kor-koranə güvənməyin. Təhlükəsizlik xəbərdarlıqlarını və ya telefon nömrələrini həmişə rəsmi mənbələrdən yoxlayın.
2. Şübhəli e-poçtlarda xülasə xüsusiyyətindən istifadə etməyin. Bunun əvəzinə, e-poçtu tam şəkildə oxuyun.
3. Təcili hərəkət tələb edən və ya şəxsi məlumat istəyən mesajlara diqqətli yanaşın.
4. Google Workspace və brauzerinizi yeniləyin. Rəsmi olmayan əlavələrdən çəkinin.
5. Şəxsi məlumatlarınızın internetdə yayılmasının qarşısını almaq üçün məlumat silmə xidmətlərindən istifadə edin.
6. Gemini xülasələrindən narahatsınızsa, bu xüsusiyyəti müvəqqəti olaraq deaktiv edin.

Google, bu boşluqla bağlı hər hansı bir aktiv istismar halı müşahidə etmədiyini bildirib. Bununla belə, mütəxəssislər, SI-nin gündəlik həyatımıza daha çox inteqrasiya olunması ilə bu cür hücumların daha tez-tez baş verə biləcəyini vurğulayır. İstifadəçilərə SI tərəfindən təqdim olunan məlumatları diqqətlə nəzərdən keçirmək və təhlükəsizlik tədbirlərini gücləndirmək tövsiyə olunur.