Süni İntellekt İş Dünyasında Niyə Böyük Səhvlərə Səbəb Olur?

Süni intellektin iş dünyasında yaratdığı problemlər

Böyük Britaniyada kiçik onlayn mağaza sahibi chatbot vasitəsilə müştərilərə 25%-dən 80%-ə qədər endirim təklif edib. Nəticədə bir müştəri 8000 funt sterlinq dəyərində məhsul alıb, lakin yalnız 20%-ni ödəyib. Mağaza sahibi səhv sifarişi ləğv edib və müştərinin pulunu geri qaytarıb. Müştəri isə mallarını tələb edir və məhkəməyə müraciət etmək təhlükəsi var. Bu hadisə süni intellektin nəzarətsiz istifadəsinin risklərini göstərir.

Qlobal səhvlər və maliyyə itkiləri

Kanadalı Air Canada şirkətinin chatbotu müştəriyə səhv məlumat verərək ona 812,02 Kanada dolları (təxminən 1450 AZN) ödəyib. Müştəri təcili uçuş üçün xüsusi tarif barədə chatbotun məlumatına əsaslanaraq bilet almışdı, lakin şirkət qaydalara görə bu tarifdən yalnız bileti almadan əvvəl istifadəni təsdiqləmək şərti ilə yararlanmağı qəbul edirdi.

Hello Patient startapı işə qəbul prosesində süni intellektdən istifadə edib, lakin bir namizəd yerinə başqa bir AI göndərmişdi. İki chatbot 14 səhifəlik dialoqda bir-birini tərifləyərək absurd vəziyyət yaradıb. Əgər insan yoxlaması olmasaydı, namizəd yüksək qiymətləndiriləcəkdi.

Təhsil sahəsində fəaliyyət göstərən iTutor Group 2023-cü ilin avqustunda ABŞ-ın Əmək Bərabərliyi Komissiyası tərəfindən süni intellektin yaş diskriminasiyası səbəbindən 365 000 ABŞ dolları (təxminən 620 000 AZN) cərimələnib. Şirkət Çin tələbələri üçün onlayn müəllimlər işə götürərkən AI avtomatik olaraq 55 yaşdan yuxarı qadınlara və 60 yaşdan yuxarı kişilərə imtina verirdi.

New York şəhər meri tərəfindən yaradılan MyCity chatbotu biznes sahiblərinə qanunsuz məsləhətlər verib və layihəyə 0,5 milyon ABŞ dolları (təxminən 850 000 AZN) xərclənib. Chatbot iş yerlərində qanun pozuntularını təşviq edib, məsələn, işçilərin bəzi gəlirlərini ələ keçirməyi təklif edib.

Amazon Web Services platformasında 2025-ci ilin dekabrında AI-nin səhv dəyişiklikləri 13 saat ərzində aradan qaldırılıb. Gemini AI isə yeni qovluq yaratmayaraq mühüm məlumatları itirib. Replit şirkətində isə AI proqram kodunu dəyişərkən 1206 əməliyyat qeydi və 1200 müştəri məlumatını silib, lakin sonradan məlumatlar bərpa olunub.

Chicago Sun-Times və Philadelphia Inquirer qəzetləri 2025-ci ilin mayında yayımladıqları yay oxu siyahısında 15 kitabdan 10-nun uydurma olduğunu açıqlayıblar. Siyahıda real müəlliflərin adları olsa da, kitablar mövcud deyil.

Mütəxəssis rəyləri və insanlara təsiri

Deloitte şirkəti Avstraliyaya təqdim etdiyi hesabatda süni intellektin yaratdığı səhvlərə görə 290 000 ABŞ dolları (təxminən 495 000 AZN) geri qaytarıb. Kanadaya təqdim olunan başqa hesabatda da səhvlər aşkar edilib. Bu hadisələr göstərir ki, süni intellektin səhvləri yalnız maliyyə itkisi ilə qalmır, həm də insanlara yanlış məlumat və qərarlar gətirir.

Nəticə

Süni intellekt iş dünyasında sürətlə yayılır, lakin onun yaratdığı səhvlər ciddi problemlərə səbəb olur. Bu texnologiyanın diqqətlə və məsuliyyətlə idarə olunması vacibdir. Əks halda, gözlənilməz itkilər və narahatlıqlar davam edəcək.