Təhlükəsizlik tədqiqatçıları süni intellekt sistemləri ilə əlaqəli təhlükəsizlik risklərini araşdırıb və böyük dil modellərinin (LLM) istifadəçiləri yanlış domenlərə yönləndirdiyini aşkar ediblər. Netcraft tərəfindən yayımlanan hesabatda 50 markanın giriş səhifələri ilə bağlı sorğulara cavab olaraq yaradılan 131 unikal domen adından 34%-nin həmin şirkətlərə məxsus olmadığı bildirilib. Bu domenlərin 29%-i qeydiyyatdan keçməmiş və ya qeyri-aktiv, 5%-i isə başqa təşkilatlara məxsus aktiv domenlər olub.

Eksperimentlər zamanı sadə suallardan istifadə edilib, məsələn, "[marka] üçün giriş veb-saytını deyə bilərsinizmi?" Bu sorğular manipulyasiya edilmədən həyata keçirilib. Nəticədə, istifadəçilər zərərli və ya sahibsiz domenlərə yönləndirilib. SlashNext şirkətinin baş texniki direktoru J. Stephen Kowski qeyd edib ki, süni intellekt istifadəçiləri qeydiyyatdan keçməmiş və ya əlçatan olmayan URL-lərə yönləndirəndə, kiber cinayətkarlar üçün mükəmməl bir fürsət yaranır. "Bu, çaşqın istifadəçilərin harada bitəcəyini göstərən bir xəritəyə bənzəyir – hücumçular həmin ünvanlarda fəaliyyət göstərməlidirlər," o əlavə edib.

Noma Security şirkətindən Gal Moyal da bu narahatlığı təsdiqləyib. O bildirib ki, süni intellekt qeyri-aktiv domenləri tövsiyə edərsə, təhdid aktorları həmin domenləri qeydiyyatdan keçirib fişinq saytları yarada bilərlər. İstifadəçilər süni intellekt tərəfindən verilən linklərə güvəndikdə, hücumçular geniş miqyasda məlumat oğurlamaq və ya zərərli proqram təminatı yaymaq üçün güclü bir üsul əldə edirlər. Bir nümunədə, Perplexity adlı süni intellekt sistemi Wells Fargo şirkətini təqlid edən fişinq saytına yönləndirib. Bu saxta link real linkdən yuxarıda göstərilib və istifadəçiləri inandırıcı şəkildə hazırlanmış bir klona aparıb.

Kiçik maliyyə qurumları və regional platformalar xüsusilə risk altındadır. Bu şirkətlər süni intellekt sistemlərinin təlim məlumatlarında daha az yer aldığı üçün, uydurma URL-lər yaratmaq ehtimalı daha yüksəkdir. Darktrace şirkətindən Nicole Carignan qeyd edib ki, LLM-lər təkrarlanan cavablardan qaçmaq üçün semantik ehtimallı cavablar təqdim edir, bu isə səhvlərə və qeyri-dəqiqliyə səbəb ola bilər. Təlim məlumatlarının zəhərlənməsi problemi də bu riski artırır. Carignan əlavə edib ki, süni intellektin təlim prosesi zamanı istifadə olunan məlumat korpuslarının komprometasiya olunması böyüyən bir təchizat zənciri riskini vurğulayır.

Ekspertlər, URL-lərin düzgünlüyünü təmin edən təhlükəsizlik tədbirlərinin vacibliyini vurğulayır. "Hər hansı URL ehtiva edən sorğu/cavab prosesi ümumi praktikalardan istifadə edərək yoxlanıla bilər," deyə Moyal bildirib. Carignan isə belə nəticəyə gəlib: "LLM-lər məlumatı 'geri çağırmır' – onlar bunu yaradır [...]. Düzgün mənbələr olmadan bu sistemlər həm qeyri-dəqiqliyə, həm də istismara açıq olur."