Sinqapur Agentic AI-də İnsan Nəzarətini Necə Gücləndirir?

Sinqapurun Agentic AI üçün yeni idarəetmə çərçivəsi

Sinqapur hökuməti süni intellekt agentlərinin (Agentic AI) yaratdığı risklərə qarşı yeni idarəetmə çərçivəsi təqdim edib. Bu çərçivə 2019-cu ildə hazırlanmış Model AI Governance Framework əsasında hazırlanıb və insan nəzarətinin vacibliyini xüsusi vurğulayır.

İnsan nəzarətinin zəruriliyi

Yeni çərçivə Agentic AI sistemlərində insan nəzarətinin mütləq olmasını tələb edir. Agentlərin fəaliyyətinə yalnız zəruri alətlər və məlumatlar verilməli, onların səlahiyyətləri məhdudlaşdırılmalıdır. Eyni zamanda, agentlərin identifikasiyası və giriş idarəetməsi vasitəsilə onların fəaliyyəti izlənməlidir.

Təhlükələr və risklər

Sinqapurun İnformasiya və Media İnkişaf İdarəsi (IMDA) çərçivədə Agentic AI-nin yaratdığı riskləri – halüsinasiyalar, qərəz, məlumat sızması və zərərli kod yoluxması kimi təhlükələri qeyd edir. Bu problemlərin qarşısını almaq üçün agentlərin fəaliyyətində insan təsirinin saxlanması və avtomatlaşdırma qərəzinin aradan qaldırılması vacibdir.

Real dünya nümunəsi: “Ask Jamie”

2014-cü ildən fəaliyyət göstərən Sinqapurun “Ask Jamie” virtual köməkçisi 15 milyondan çox sorğuya cavab verib və onların təxminən yarısını uğurla həll edib. Bu, Agentic AI-nin insan nəzarəti ilə necə effektiv işləyə biləcəyinin canlı nümunəsidir.

İqtisadi perspektiv və ekspert rəyləri

McKinsey & Co. Agentic AI-nin illik 2.6-4.4 trilyon ABŞ dolları (təxminən 4.4-7.4 trilyon AZN) dəyərində iqtisadi fayda yaradacağını proqnozlaşdırır. Parminder Singh, ClayboxAI şirkətinin həmtəsisçisi, bu çərçivənin digər hökumətlərin AI idarəetmə standartlarından bir addım irəli olduğunu bildirir. Salesforce şirkətinin Prezident və İcraçı Direktoru Kendall Collins isə "İnsan memar olaraq qalmalıdır" deyərək, insanın rolunun əvəzsiz olduğunu vurğulayır.

Nəticə

Sinqapurun yeni idarəetmə çərçivəsi süni intellekt agentlərinin təhlükəsizliyini artırmaqla yanaşı, insan məsuliyyətini qoruyur. Bu, gələcəkdə AI-nin cəmiyyətə faydalı və etibarlı şəkildə inteqrasiyası üçün vacib addımdır. İnsan və maşın arasında balansın qorunması texnologiyanın həyatımıza yaratdığı narahatlıqları azaldır və ümidlər yaradır.