Francesko Moskoni: Süni intellekt təhlükəsizliyini kim qoruyacaq?

Süni İntellekt: İnsanlığın Ümidləri və Təhlükələri

Francesko Moskoni, İtaliyadan Silikon Vadisinə gedən bir fizikin hekayəsidir. O, hazırda Anthropic şirkətində süni intellektin təhlükəsizliyini təmin etmək üçün çalışır. Claude adlı süni intellekt modeli üzərində işlər aparan Moskoni, texnologiyanın insanlığa fayda gətirə biləcəyinə inanır, lakin onun yaratdığı riskləri də diqqətlə izləyir. O deyir: 'Süni intellektin gücü atom bombasından daha böyük ola bilər. İnsanlıq bu texnologiyanı idarə etməyi öyrənməlidir.'

Anthropic-də Təhlükəsizlik Testləri

Moskoninin rəhbərlik etdiyi komanda Claude modelinin risklərini qiymətləndirir. Modelin təhlükəli funksiyalara malik olduğunu aşkar etdikdə, onun istifadəyə verilməsini dayandırır. Məsələn, kibertəhlükəsizlik sahəsində modelin simulyasiya edilmiş şəbəkələrə giriş cəhdlərini yoxlayırlar. Əgər model uğurla şəbəkəyə daxil olursa, yeni təhlükəsizlik tədbirləri tətbiq edilir.

Bioloji Risklər və Təcrübələr

Moskoninin komandası bioloji riskləri də araşdırır. İki qrup insan üzərində testlər aparılır: biri yalnız onlayn məlumatlardan istifadə edir, digəri isə süni intellektin köməyindən yararlanır. Nəticələr göstərir ki, süni intellekt dəstəyi ilə qrup daha təhlükəli nəticələr əldə edə bilər. Bu tədqiqatlar ictimaiyyətə açıq şəkildə yayımlanır.

Süni İntellektin Gələcəyi və İnsani Təsirlər

Anthropic, süni intellektin təhlükəsizliyini təmin etmək üçün 'Responsible Scaling Policy' adlı ictimai çərçivə hazırlayıb. Moskoni deyir: 'Təhlükəsizlik heç vaxt bitmir. Model real dünyada istifadəyə verildikdə, yeni risklər ortaya çıxa bilər.'

Şəxsi Hekayə: İtaliyadan ABŞ-a Uzanan Yol

Francesko Moskoni, İtaliyada iş tapmaqda çətinlik çəkdiyi üçün ABŞ-a köçüb. O, əvvəlcə startup dünyasına daxil olub, sonra süni intellekt və təhlükəsizlik sahəsinə yönəlib. Moskoni, 'Gələcəyimiz uşaqlarımız üçün təhlükəsiz olmalıdır' deyərək öz missiyasını vurğulayır.

Avropa və Süni İntellekt: AI Act

Moskoninin fikrincə, Avropa İttifaqının AI Act kimi təşəbbüsləri süni intellektin təhlükəsizliyini təmin etmək üçün vacibdir. O, Avropanın bu sahədə mühüm rol oynaya biləcəyinə inanır.

Nəticə

Francesko Moskoni süni intellektin təhlükəsizliyini təmin etmək üçün çalışan bir alimdir. Onun hekayəsi yalnız texnologiya ilə bağlı deyil, həm də insanlığın gələcəyinə dair dərin düşüncələri əks etdirir.