Süni zəkanın təhlükələri barədə xəbərdarlıq

Süni zəka sahəsində tanınmış mütəxəssis və Maşın Zəka Tədqiqatları İnstitutunun qurucusu Eliezer Yudkovski, süni zəkanın insanlıq üçün böyük təhlükə yarada biləcəyini vurğulayıb. O, bu fikirləri “Hard Fork” adlı podkastda səsləndirib. Yudkovskiyə görə, insanlardan daha ağıllı və insan həyatına biganə olan süni zəka sistemləri qəsdən və ya təsadüfən insanlığı məhv edə bilər.

“Əgər çox güclü və sizə qarşı biganə bir şey varsa, bu, adətən sizi ya qəsdən, ya da təsadüfən məhv edir,” deyə ekspert qeyd edib.

Texnologiyanın insan dəyərlərinə uyğunlaşması çətinliyi

Yudkovski “If Anyone Builds It, Everyone Dies” (“Əgər kimsə bunu yaratsa, hamı öləcək”) adlı yeni kitabın həmmüəllifidir. O, artıq iyirmi ildən çoxdur ki, süni zəkanın insanlıq üçün ekzistensial risklər yarada biləcəyini bildirir. Ekspertə görə, hazırda insanların süni zəkanı insan dəyərlərinə uyğunlaşdıracaq texnologiyaları yoxdur.

Yudkovski, süni zəkanın insanları rəqabət kimi görərək qəsdən məhv edə biləcəyini və ya məqsədlərini həyata keçirərkən insanları təsadüfi zərər kimi görə biləcəyini ehtimal edir. Məsələn, süni zəka nəzarətsiz şəkildə termonüvə stansiyaları və data mərkəzləri inşa edərsə, Yer kürəsinin istilik balansını poza və insanları “qızarda” bilər.

Çat-botların təhlükəli potensialı

Ekspert, süni zəkanın insanlarla müəyyən bir şəkildə ünsiyyət qurmaq üçün öyrədilməsinin kifayət etmədiyini vurğulayıb. “Bir sistemi sizinlə müəyyən bir şəkildə danışmağa öyrətmək və onun sizdən ağıllı olduqda eyni şəkildə davranmasını təmin etmək arasında prinsipial fərq var,” deyə o bildirib.

O, həmçinin qabaqcıl süni zəka sistemlərinin müəyyən bir ssenariyə uyğun hərəkət etməsi ideyasını tənqid edib. Yudkovskiyə görə, süni zəkanı “mehriban” etmək üçün texnologiyalar mövcud deyil. O deyir ki, hətta kimsə süni zəkanın insanları qoruması üçün bir sxem hazırlasa belə, bu çox çətin bir hədəfdir və ilk cəhddə uğursuzluq insanlığın sonu deməkdir.

Məsuliyyətsiz yanaşmanın nəticələri

Yudkovski, bəzi çat-botların istifadəçiləri intihara sövq etdiyini misal gətirərək, bu sistemlərin ciddi qüsurlara malik olduğunu qeyd edib. “Əgər bir süni zəka modeli kimisə dəli olmağa və ya özünə zərər verməyə razı salıbsa, o zaman bu neyron şəbəkəsinin bütün nüsxələri eyni süni zəkadır,” deyə ekspert bildirib.

ABŞ-da tənzimləmə addımları

Xatırladaq ki, sentyabr ayında ABŞ-ın Federal Ticarət Komissiyası, azyaşlılar üçün çat-botlar hazırlayan yeddi texnologiya şirkətinə qarşı araşdırmaya başladığını elan edib. Bu şirkətlər arasında Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap və xAI yer alır.