DuckDuckGo-nun AI köməkçisi niyə yalan məlumat yaydı? İstifadəçilər narahatdır!

DuckDuckGo-nun AI köməkçisi yalan məlumat yaydı

DuckDuckGo-nun süni intellekt əsaslı axtarış köməkçisi bu həftə ciddi səhvə yol verərək ABŞ prezidenti Donald Trump-un bu ay içində qəzəb xəstəliyindən öldüyü barədə tamamilə yalan məlumat yaydı. Eyni zamanda, vitse-prezident JD Vance, Robert F. Kennedy Jr. və saxta xəbər hesabatları ilə bağlı da uydurma detalları təqdim etdi. Bu məlumatların heç biri doğru deyildi.

Reddit icmasının saxta məlumat kampaniyası

Futurism saytının məlumatına görə, bu qəribə cavab təkcə bir səhv deyildi. Reddit-in r/poisonai icmasından gələn koordinasiya olunmuş saxta məlumat kampaniyası bu hallusinasiyanı yaratdı. İcma üzvləri interneti JD Vance-in qəzəb xəstəliyindən öldüyü və sonra Donald Trump-un da eyni xəstəlikdən vəfat etdiyi barədə saxta iddialarla doldurdular. Onlar saxta xəbər məqalələri yaratmaqla və yerli xəbər saytlarını təqlid etməklə bu yalanı gücləndirdilər.

Brave Search də oxşar səhvlər etdi

DuckDuckGo-nun AI köməkçisi təkcə bu səhvə yol vermədi. Futurism həmçinin Brave Search-in AI sisteminin də oxşar yanlış məlumatları təkrarladığını, lakin sonradan düzəliş etdiyini qeyd edib.

DuckDuckGo səhvini etiraf etdi

DuckDuckGo Reddit-də "Ok, bu dəfə bizə "ducked" etdilər" deyə zarafatla səhvini qəbul etdi. Şirkət məsələni həll etdiyini və Search Assist sisteminin bilərəkdən aldatıldığını açıqladı. Gələcəkdə oxşar hücumlara qarşı daha yaxşı müdafiə tədbirləri görəcəyini vəd etdi.

AI və yanlış məlumatların təhlükəsi

Bu hadisə göstərir ki, AI sadəcə öz uydurması ilə deyil, internetdə yerləşdirilmiş koordinasiya olunmuş saxta məlumatları da təkrarlaya bilər. Bu problem yalnız DuckDuckGo-nun deyil, bütün AI axtarış sistemlərinin üzləşdiyi ciddi çağırışdır. Kütləvi saxta məlumatlar AI modellərinin yanlış öyrənməsinə və nəticədə etibarsız nəticələr verməsinə səbəb ola bilər.

Etibarlı mənbələrin seçilməsi vacibdir

Ekspertlər bildirirlər ki, AI-nin təkmilləşdirilməsi yalnız daha ağıllı modellər yaratmaqla kifayətlənmir. Eyni zamanda, etibarlı və doğru məlumat mənbələrinin seçilməsi də əsas şərtdir. Bu, həm istifadəçilərin, həm də cəmiyyətin süni intellektə olan etimadını qorumaq üçün vacibdir.

Bu hadisə süni intellektin inkişafında etik və texniki məsələlərin nə qədər önəmli olduğunu bir daha gündəmə gətirdi.