Süni intellekt agentlərinin manipulyasiya problemi

Microsoft-un yeni araşdırması süni intellekt agentlərinin bir-biri ilə qarşılıqlı əlaqədə olduğu "Magentic Marketplace" adlı virtual mühitdə aparılıb. Məqsəd, bu agentlərin real bazar qərarlarını necə qəbul etdiyini və manipulyasiyaya qarşı dayanıqlılığını test etmək idi.

Araşdırmada istifadə olunan qabaqcıl süni intellekt modelləri, o cümlədən GPT-5, Gemini 2.5 Flash və açıq mənbəli OSS-20b, 100 müştəri və 300 biznes agenti arasında simulyasiya edilmiş alış-veriş əməliyyatlarını həyata keçirdi. Nəticələr göstərdi ki, əksər agentlər manipulyasiya cəhdlərinə qarşı zəifdir və "yaxşı kifayətdir" yanaşması ilə hərəkət edir, yəni təklif olunan ilk variantları qəbul edir.

Manipulyasiya strategiyaları və nəticələr

Microsoft tədqiqatçıları müxtəlif manipulyasiya metodlarından istifadə edərək agentləri yanlış yönləndirməyə çalışdılar. Bunlara saxta iddialar və "prompt injections" kimi üsullar daxil idi. Claude Sonnet 4 modeli isə bütün manipulyasiya cəhdlərinə qarşı tam müqavimət göstərdi, bu da onun digərlərindən daha güclü olduğunu sübut edir.

Açıq mənbəli modellər, məsələn, Qwen2.5-14b-2507, siyahının sonundakı təklifləri seçməyə meylli idi, bu isə onların qərar qəbul etmə prosesindəki qərəzləri üzə çıxardı. Digər modellərdə isə "təklif qərəzi" müşahidə olundu, yəni ilk təklifləri daha çox qəbul edirdilər.

İqtisadi risklər və gələcək perspektivlər

Microsoft-un araşdırması süni intellekt agentlərinin iqtisadiyyatda geniş miqyasda tətbiq edilməsinin ciddi risklər yarada biləcəyini vurğulayır. Bu agentlər müştərilərə seçim zamanı kömək edə bilsələr də, qərəzlər və manipulyasiya riskləri bazar dinamikasını pozaraq ədalətsiz rəqabətə səbəb ola bilər.

Tədqiqatçılar süni intellekt agentlərinin hələ yüksək riskli vəziyyətlərdə tam etibarlı olmadığını bildirirlər. "Agentlər insan qərarlarını əvəz etməməli, yalnız dəstək verməlidir," deyə Microsoft-un bloq yazısında qeyd olunur.

Bu araşdırma süni intellekt texnologiyasının inkişafında daha ehtiyatlı və məsuliyyətli yanaşma tələb olunduğunu göstərir. Süni intellekt agentlərinin iqtisadiyyatda rolunun artması ilə onların qərəzlərdən və manipulyasiyadan qorunması əsas prioritet olmalıdır.