Google DeepMind-dan ayrılan mütəxəssis AGI təhlükəsizliyi barədə ciddi xəbərdarlıq etdi

Google DeepMind-dan ayrılan mütəxəssisin narahatlığı

Bilal Chughtai iyul ayında Google DeepMind-dan ayrılıb. O, orada süni ümumi intellektin (AGI) təhlükəsizliyi və uyğunluğu üzərində çalışırdı. Bu həftə X platformasında ayrılma səbəblərini açıqlayaraq süni intellektin gələcək inkişafı ilə bağlı ciddi narahatlıqlarını bölüşüb.

Süni intellektin təhlükəli inkişaf trayektoriyası

Chughtai bildirib ki, AI-nin inkişafı insan həyatına təhlükə yarada bilər. O, AI şirkətləri arasında manik yarışın təhlükəsini vurğulayaraq, belə rəqabətin süni intellektin təhlükəsizliyini risk altına qoyduğunu deyib. Onun çağırışı sənayenin daha məsuliyyətli və koordinasiyalı hərəkət etməsi, "AI şirkətləri arasında manik yarışın qarşısını almaq" və inkişafın cəmiyyətin idarə edə biləcəyi sürətlə aparılmasıdır.

Digər mütəxəssislərin fikirləri və sənaye vəziyyəti

Anthropic şirkətindən Jacob Coxon sentyabrın 9-da ayrılıb və AI laboratoriyalarını superintellekt yarışında ittiham edib. Anthropic-in təhlükəsizlik üzrə mütəxəssisi Evan Hubinger süni intellektin bu onillikdə 10 faizdən çox nəsil riskini qiymətləndirir. Geoffrey Hinton isə bu rəqəmi qeyri-mümkün saymır. Chughtai də DeepMind üçün oxşar risklərin mövcudluğunu qeyd edir.

Sənayenin inkişaf sürətinə çağırışlar

Dario Amodei sənayenin inkişaf sürətini yavaşlatmağı təklif edib ki, cəmiyyət bu sürəti idarə edə bilsin. Chughtai isə vurğulayır ki, "İnkişaf sürəti cəmiyyətin idarə edə biləcəyi səviyyədə olmalıdır."

Siyasi və ictimai reaksiyalar

ABŞ Senatında senatorlar Thune, Cruz və Klobuchar AI təhlükəsizliyi ilə bağlı qanun layihəsi üzərində işləyirlər. Lakin qanunun detalları hələ açıqlanmayıb. Digər tərəfdən, Emil Michael və Donald Trump kimi şəxslər AI təhlükəsi barədə narahatlıqları rədd edirlər.

İnsan həyatına təsiri və gələcəyə baxış

Bilal Chughtai-nin narahatlığı süni intellektin nəzarətsiz və sürətli inkişafının insan həyatına təhlükə yaratması ilə bağlıdır. Onun çağırışı sənayenin məsuliyyətli davranması və təhlükəsizlik tədbirlərinin gücləndirilməsidir. Bu, həm mütəxəssislər, həm də ictimaiyyət üçün ciddi xəbərdarlıqdır ki, AI-nin gələcəyi insan həyatının təhlükəsizliyi ilə sıx bağlıdır.