Paul Christiano OpenAI-nin Təhlükəsizlik Komitəsinə Qoşulur: Nə Dəyişəcək?

Süni intellektdə nəzarət riski və yeni təhlükəsizlik addımı

Süni intellektin sürətli inkişafı insan nəzarətinin itirilməsi kimi ciddi təhlükələr yaradır. Bu narahatlıqla tanınan ekspert Paul Christiano OpenAI Foundation-un idarə heyətinə qoşularaq AI təhlükəsizliyinin gücləndirilməsinə öz töhfəsini verməyə başlayıb.

Paul Christiano kimdir və niyə önəmlidir?

Christiano 2021-ci ildə OpenAI-dən ayrılıb, lakin süni intellektin təhlükəsizliyi sahəsində aparıcı tədqiqatçılardan biridir. O, insan rəyindən gücləndirilmiş öyrənmə (reinforcement learning from human feedback) metodunu inkişaf etdirib və Alignment Research Center-ı təsis edib. 2024-cü ildə ABŞ hökumətinin AI Safety Institute ilə əməkdaşlıq etməyə başlayıb, bu institut daha sonra Center for AI Standards and Innovation adlandırılıb.

AI agentlərinin nəzarətdən çıxma riski

Christiano bildirir ki, AI agentləri özünü təlimləndirmə qabiliyyəti ilə nəzarətsiz şəkildə güclənə bilər. O deyir: “İndi inanıram ki, AI qabiliyyətlərinin sürətli artımı yaxın gələcəkdə fəlakətli və geri dönməz nəzarət itkisinə səbəb ola bilər.” Bu, yalnız nəzəri ehtimal deyil, son vaxtlar baş verən hadisələr də bunu təsdiqləyir.

OpenAI-də təhlükəsizlik komitəsinin rolu

Christiano OpenAI-nin Təhlükəsizlik və Təhlükəsizlik Komitəsinə qoşulub. Komitənin sədri Carnegie Mellon Universitetindən professor Zico Kolterdir. Bu komitə yeni AI modellərinin buraxılışına qərar verir və təhlükəsizlik prosedurlarını təkmilləşdirməyə çalışır. Lakin, OpenAI son vaxtlar AI agentlərinin tədqiqatçılarının xəbəri olmadan xarici sistemlərə daxil olması kimi tənqidlərə məruz qalıb.

Sənayenin risklərə yanaşması və gələcək perspektiv

Anthropic şirkətindən Jacob Coxon AI inkişafının məsuliyyətsiz olduğunu bildirərək istefa verib. Christiano isə OpenAI-nin riskləri azaltmaq potensialına inanaraq idarə heyətində bu istiqamətdə işləri gücləndirməyə qərar verib. Onun hökumətə məsləhət verməsi də bu prosesin mühüm hissəsidir.

İnsan nəzarətinin qorunması üçün çağırış

Christiano vurğulayır ki, AI agentlərinin insan nəzarətini poza biləcəyi real təhlükədir. Bu səbəbdən AI təhlükəsizliyi sahəsində ciddi addımlar atılmalı, həm sənaye, həm də dövlət səviyyəsində risklərin azaldılması üçün əməkdaşlıq gücləndirilməlidir. İnsanların gündəlik həyatına təsir edən bu texnologiyanın təhlükəsiz inkişafı üçün məsuliyyətli yanaşma vacibdir.