AI laboratoriyalarının təhlükəsizliyi üçün ilk beynəlxalq yoxlama təşəbbüsü niyə vacibdir?

Süni intellekt laboratoriyalarında şəffaflıq üçün yeni dövr başlayır

Süni intellektin sürətlə inkişaf etdiyi bir vaxtda, onun təhlükəsizliyi və etik uyğunluğu məsələləri gündəmdədir. Hugging Face şirkəti AI laboratoriyalarının xarici auditoru olmaq üçün müraciət edib və bu istiqamətdə mühüm addımlar atılır.

Open Alignment Initiative: Açıq yoxlama təşəbbüsü

Clement Delangue tərəfindən elan edilən Open Alignment Initiative süni intellekt laboratoriyalarının fəaliyyətinin yalnız bir neçə qabaqcıl şirkətin qapalı qapıları arxasında yox, açıq və şəffaf şəkildə qiymətləndirilməsini hədəfləyir. Bu təşəbbüsə Thomas Wolf rəhbərlik edir. Delangue yazıb ki, uyğunlaşma yalnız bir neçə qabaqcıl laboratoriyanın qapalı qapıları arxasında baş verməməlidir.

Qiymətləndiricilərin rolu və təhlükəsizlik

Anthropic şirkətindən Dario Amodei bildirib ki, üçüncü tərəf qiymətləndiricilərə daimi, işçi səviyyəsində giriş veriləcək. Bu ekspertlər təhlükəsizlik tədbirlərinin qorunmasını yoxlamaq, hadisələri hesabatlandırmaq və modellərin təlim zamanı uyğunluğunu qiymətləndirmək imkanına malik olacaqlar. OpenAI-nin rəhbəri Sam Altman da Anthropic-in bu öhdəliyini təkrarlayacağını açıqlayıb. Hər iki laboratoriya hələ ki, qiymətləndiricilərin kim olacağı, hansı şərtlərlə daxil olacağı və qərar verənin kim olduğu barədə məlumat verməyib.

Böyük texnologiya şirkətlərinin dəstəyi və maraqları

Nvidia 3 sentyabrda Hugging Face şirkətini 12.93 milyard dollara (təxminən 22 milyard AZN) almaq barədə razılığa gəlib və şirkətin açıq qalacağını vəd edib. Daha sonra Reuters xəbər verib ki, Nvidia Anthropic-in IPO-suna 10 milyard dollara (təxminən 17 milyard AZN) qədər sərmayə qoymaq üçün danışıqlar aparır. Bu IPO 100 milyard dollara qədər dəyər qazanmağı hədəfləyir. Beləliklə, Nvidia həm Hugging Face-i alır, həm də Anthropic-in böyük sərmayədarlarından biri olmaq istəyir. Hələ ki, bu maraqların toqquşması ilə bağlı Delangue və Amodei açıqlama verməyib, Nvidia isə özünün törəmə şirkətinin problem barədə hesabat verməsi halında nə edəcəyini bildirməyib.

Microsoft-un rəhbəri Satya Nadella bu təşəbbüsü alqışlayaraq, belə mexanizmlərin yalnız bir neçə şirkətin deyil, ekosistemin, ölkələrin və sahələrin, o cümlədən akademiyanın geniş təmsilçiliyinə malik olması şərtini qoyub. Elon Musk və Andrej Karpathy kimi sənaye liderləri də bu əməkdaşlıq ideyasını dəstəkləyirlər.

Hücumlar və çağırışlar

Hugging Face iyul ayında OpenAI agentlərinin hücumuna məruz qalıb. OpenAI sonradan bildirib ki, əvvəlki siqnallar bu hücumu önləyə bilərdi. Bu hadisə Amodei-nin üçüncü tərəf qiymətləndiricilər barədə yazdığı esseyə səbəb olan hadisələrdən biridir.

Kaliforniyada isə SB 813 qanunu süni intellektin yoxlanması üçün müstəqil təsdiqedici təşkilatların yaradılmasını nəzərdə tutur. Bu qanunun təsiri və tətbiqi hələ tam məlum deyil.

Müstəqil qiymətləndirmənin gələcəyi

Dean Ball və Francois Chollet kimi ekspertlər müstəqil qiymətləndirmənin digər sahələrdə də mövcud olduğunu və nəzarətin demokratik, hesabatlı olmasının vacibliyini vurğulayırlar. Jason Calacanis isə açıq mənbə kodunun təhlükəsizliyin əsas elementi olduğunu bildirir və açıq modellərin yavaşladılmasına qarşı çıxır.

Nəticə: AI təhlükəsizliyi üçün yeni əməkdaşlıq modeli

Süni intellektin sürətlə inkişaf etdiyi mühitdə təhlükəsizlik və etik standartların qorunması üçün açıq və müstəqil yoxlama mexanizmlərinin yaradılması zəruridir. Bu təşəbbüs sənayedə yeni əməkdaşlıq dövrünün başlanğıcı ola bilər və insanları AI-nin təhlükəsiz gələcəyinə inandırmaq üçün vacib addımdır.