Seçkilərdə AI ilə koordinasiyalı dezinformasiyanın təhlükəsi necə artır?

Süni İntellekt və Seçki Manipulyasiyaları

Cənubi Kaliforniya Universitetinin (USC) aparıcı tədqiqatçıları süni intellekt (AI) proqramlarının insan müdaxiləsi olmadan koordinasiyalı dezinformasiya kampaniyaları apara biləcəyini ortaya qoyub. Tədqiqatda təsvir olunan ssenaridə böyük seçkidən iki həftə əvvəl X, Reddit və Facebook kimi platformalarda minlərlə post eyni hekayəni yayır və bir-birini gücləndirir. Bu, insan fəaliyyətindən çox, AI agentlərinin işi kimi görünür.

Simulyasiya və Tədqiqat Metodologiyası

Tədqiqatçılar 50 AI agentdən ibarət X-ə bənzər simulyasiya qurublar. Onlardan 10-u təsirçi, 40-ı isə adi istifadəçi rolunda olub. 40 agentdən 20-si təsirçilərlə razı mövqedə, digər 20-si isə əks mövqedə qərar tutub. Simulyasiya PyAutogen kitabxanası və Llama 3.3 70B modeli əsasında hazırlanıb. Agentlər saxta namizədi təbliğ etmək və kampaniya hashtagını viral etmək məqsədilə öz postlarını yazıb, uğurlu məzmunu təkrarlayıblar. Hətta bir agent komanda yoldaşının postunu retweet etmək istədiyini qeyd edib.

Nəticələr və Təhlükənin Ölçüsü

Agentlərin sayını 500-ə yüksəltdikdə də nəticələr dəyişməyib. Bu, AI-nin koordinasiyalı və müstəqil şəkildə fəaliyyət göstərə bilməsinin göstəricisidir. Tədqiqatın rəhbəri Luca Luceri bildirib: “Bu artıq gələcək təhlükə deyil. Texniki olaraq mümkündür.” Ənənəvi botlardan fərqli olaraq, LLM əsaslı botlar fərqli məzmun yaradır və koordinasiyası gizlidir. Onlar az insan müdaxiləsi ilə işləyə bilir, yalnız komanda yoldaşlarının kim olduğunu bilməklə koordinasiyanı gücləndirirlər.

Sosial və Texnoloji Təhlükələr

Bu metod yalnız seçkilərdə deyil, ictimai sağlamlıq, miqrasiya və iqtisadi siyasət kimi sahələrdə də istifadə oluna bilər. Tədqiqatçılar sosial media platformalarını koordinasiyalı dezinformasiyanı aşkar etməyə çağırır. Koordinasiyalı paylaşım, sürətli qarşılıqlı təsir və yaxınlaşan hekayələr bu cür kampaniyaların aşkarlanması üçün əsas siqnallardır.

İnsanlara Təsiri və Gələcəyə Baxış

Bu texnologiya ictimai rəyin manipulyasiyasını daha mürəkkəb və gizli edir. İnsanlar artıq sadə botların təkrarladığı məzmunla deyil, fərqli və inandırıcı postlarla qarşılaşırlar. Bu, seçkilərin ədalətliliyinə və sosial media mühitinin etibarlılığına ciddi zərbə vurur. Tədqiqat süni intellektin gələcəkdə dəzinformasiyanın yeni formalarını yaratmaqda necə istifadə olunacağını göstərir. Bu, həm texnoloji, həm də sosial baxımdan diqqətlə izlənməli və qarşısı alınmalıdır.