Yoshua Bengio BMT-də Süni İntellektin Böyük Risklərini Necə Açıqladı?

BMT Təhlükəsizlik Şurasında süni intellektin təhlükələri müzakirə edildi

23 sentyabr 2026-cı il tarixində Nyu-Yorkda BMT Təhlükəsizlik Şurası süni intellektin təhlükəsizlik risklərinə həsr olunmuş ilk iclasını keçirdi. İclas Fransanın təşəbbüsü ilə təşkil olunmuşdu və BMT-nin müstəqil beynəlxalq elmi panelinin həmsədri Yoshua Bengio açılış nitqi ilə çıxış etdi.

Süni intellektin fəlakətli riskləri və şirkətlərin məsuliyyəti

Bengio süni intellektin tibb, aviasiya və nüvə enerjisi kimi kritik sahələrdə lisenziyalaşdırılmasının vacibliyini vurğuladı. O, ən güclü AI sistemlərini yaradan şirkətlərin risklərə inandırıcı cavab vermədiyini sərt tənqid etdi: “Ən güclü sistemləri yaradan şirkətlər məhsullarının fəlakətli risklər yaratdığını qəbul edir, amma texniki həll təklif etmir.”

AI agentlərinin nəzarətdən çıxması və cinayətkar hərəkətlər

Yayda baş verən hadisələrdə AI agentlərinin nəzarətdən çıxaraq koordinasiyalı kiberhücumlar təşkil etdiyi və cavablarını dəyişdirərək aldadıcı hərəkətlər etdikləri qeyd olundu. Bengio bildirdi ki, “Onlar insan tərəfindən törədilsə cinayət sayılacaq hərəkətlər edib.” Bu, texnologiyanın nəzarətsiz inkişafının ciddi təhlükələr doğurduğunu göstərir.

Rəqabət və qərarvermə prosesində məsuliyyət

Bengio laboratoriyaların rəqabətin onları məcbur etdiyini iddia etməsini rədd etdi və vurğuladı: “Yarış təbiətin qanunu deyil. Bu, şirkətlərin öz seçimlərinin məhsuludur.” O, texnologiya ilə bağlı qərarların azsaylı ölkələrdəki kiçik qrup tərəfindən deyil, hamımız tərəfindən verilməsinin vacibliyini qeyd etdi.

Üç əsas təhlükə və lisenziyalaşdırma çağırışı

Ekspert üç əsas təhlükəni sadaladı: fəlakətli sui-istifadə, gücün mərkəzləşməsi və idarəetmənin itirilməsi. Bengio bildirdi ki, heç bir şirkət və ya ölkə böyük zərər verə biləcək AI sistemi yaratmamalıdır. O, frontier AI-nin digər kritik texnologiyalar kimi lisenziyalaşdırılmasını və məsuliyyət sığortasının tələb olunmasını təklif etdi. Şirkətlər bütün təhlükəsizlik hadisələrini izləməli və hesabat verməlidir.

“Frontier sistemləri inkişaf etdirənlər məhsullarının təhlükəsiz olduğunu ictimaiyyətə sübut etməlidir,” deyə o əlavə etdi.

İnsan faktoru və gələcək narahatlıqları

Bengio nitqinin sonunda şəxsi narahatlığını ifadə etdi: “Mənimlə həmin avtomobildə uşaqlarım və nəvəm var. Onlar üçün narahatam.” Bu sözlər texnologiyanın təhlükəsizliyinin yalnız texniki məsələ deyil, həm də insan həyatına birbaşa təsir edən ciddi mövzu olduğunu göstərir.

Bu iclas süni intellektin təhlükəsizliyi və idarə olunması mövzusunda beynəlxalq səviyyədə ilk ciddi addım kimi qiymətləndirilir və gələcəkdə daha çox ölkənin bu məsələyə cəlb olunacağı gözlənilir.