AI təhlükəsizliyi üzrə aparıcı ekspert Anthropic-dən Niyə istefa verdi?

Mrinank Sharma Anthropic-də təhlükəsizlik tədqiqatları rəhbəri olub

Mrinank Sharma, məşhur AI chatbot Claude-un arxasında duran Anthropic şirkətində təhlükəsizlik tədqiqatları komandası rəhbəri vəzifəsindən bazar ertəsi istefa verib. O, istefasından əvvəl komandasına göndərdiyi məktubda AI təhlükəsizliyinə verdiyi töhfələrdən və qarşılaşdığı narahatlıqlardan danışıb.

AI təhlükəsizliyi sahəsində nailiyyətlər və gələcək narahatlıqları

Sharma məktubunda AI təhlükəsizliyi sahəsində əldə etdiyi uğurları qeyd edib, o cümlədən “AI-nin yaltaqlıq xüsusiyyətlərini və səbəblərini anlamaq, AI ilə əlaqəli bioterrorizm risklərini azaltmaq üçün müdafiə vasitələri hazırlamaq və onları istehsalata tətbiq etmək, həmçinin AI təhlükəsizliyi üzrə ilk işlərdən birini yazmaq” kimi layihələrdə iştirak etdiyini vurğulayıb. Son layihəsi isə AI köməkçilərinin insanlığı necə dəyişdirə və insanlığımızı necə təhrif edə biləcəyini anlamaq olub.

Sharma həmçinin yaxın gələcəkdə qeyri-müəyyən və geniş miqyaslı təhlükələrin mövcudluğuna diqqət çəkib. O, bu təhlükələri “poly-crisis” və “meta-crisis” kimi adlandıraraq, dünyada bir neçə əlaqəli böhranların eyni anda baş verdiyini bildirib. Bu anlayışları daha yaxşı başa düşmək üçün o, “First Principles and First Values” adlı kitaba istinad edib.

Dəyərlər və təzyiqlər

Sharma qeyd edib ki, təşkilat daxilində və cəmiyyətdə dəyərlərin əməllərə təsir etməsi çox çətindir. O, həm özündə, həm də təşkilatda və ümumilikdə cəmiyyətdə əsas dəyərləri qorumaq üçün təzyiqlərlə üzləşdiyini vurğulayıb. Buna görə də o, prinsiplərinə sadiq qalmaq və dürüstlükdən ayrılmamaq üçün yeni yol axtarışındadır.

Mübahisəli müəlliflik və etik məsələlər

Məktubunda Sharma “First Principles and First Values” kitabını sitat gətirib. Kitabın müəllifi David J. Temple kollektiv pseudonimdir və əsas müəlliflər Marc Gafni və Zak Stein-dir. Qeyd olunur ki, Marc Gafni bir neçə qadın tərəfindən cinsi təcavüzdə ittiham olunub və Yəhudi Yenilənmə hərəkatından qovulub. Bu faktlar AI təhlükəsizliyi və dəyərlər məsələsində əlavə etik suallar yaradır.

Gələcək planlar

Sharma istefasından sonra poeziya üzrə təhsil almaq və cəsarətli danışıq praktikasına vaxt ayırmaq niyyətindədir.

Nəticə

Mrinank Sharma-nın istefası AI təhlükəsizliyi sahəsindəki çətinlikləri və gələcəkdə qarşılaşa biləcəyimiz mürəkkəb çağırışları göstərir. Onun narahatlıqları süni intellektin inkişafının insanlıq üçün həm imkanlar, həm də risklər yaratdığını xatırladır. İnsanlar və təşkilatlar bu texnologiyanın təhlükəsiz və məsuliyyətli istifadəsinə diqqət yetirməlidirlər.