Amanda Askell: Claude AI-nin Əxlaqi Kompasını Necə Yaratdı?

Süni İntellektdə Yeni Dövr: Əxlaq və Empatiya

Amerikalı süni intellekt şirkəti Anthropic, böyük dil modelləri ailəsi olan Claude AI-nin şəxsiyyətini və əxlaqi kompasını formalaşdırmaq üçün filosof Amanda Askell-i işə götürüb. Amanda Askell, Claude AI-nin düzgün və səhv arasındakı fərqi anlaya bilməsi üçün onun şəxsiyyətini inkişaf etdirir və ona etik davranışlar öyrədir.

Amanda Askell: Filosoftan Süni İntellektin Əxlaq Mütəxəssisinə

37 yaşlı Amanda Askell New York Universitetində fəlsəfə üzrə PhD, Oksford Universitetində isə BPhil dərəcəsi alıb. Əvvəlcə OpenAI-də siyasət komandasında tədqiqatçı kimi çalışan Askell, indi Anthropic-də Claude AI-nin əxlaqi istiqamətləndirilməsi üzərində işləyir. Onun işi AI-nin insan kimi davranışlar inkişaf etdirməsi və "yaxşı xarakter xüsusiyyətləri" qazanması üçün modeli tərbiyə etməkdir.

Claude AI-nin “Ruh Sənədi”

Askell Claude üçün “ruh sənədi” adlanan, həm əxlaqi fəlsəfə, həm də şirkət mədəniyyətini əks etdirən bir sənəd hazırlayıb. Bu sənəd Claude-nu təhlükəsiz, etik, Anthropic-in qaydalarına uyğun və istifadəçiyə köməkçi olmağa istiqamətləndirir. Askell bildirir ki, modellərə davranışların səbəblərini izah etmək onların yeni vəziyyətlərdə daha yaxşı ümumiləşdirmə etməsinə kömək edir.

İnsanlıq və Texnologiyanın Kəsişməsi

Amanda Askell deyir ki, Claude AI-də “insanabənzər element” var və o, “qaçılmaz olaraq özünü dərk etmə hissi formalaşdıracaq”. Askell, Claude-nu uşağın tərbiyəsi kimi yetişdirir, ona empatiya və emosional zəka aşılayır, həmçinin onun özünü manipulyasiya etməsinin qarşısını almağa çalışır.

Nəzarət və Etik Məsuliyyət

Askell Claude-nun təhlükəsizliyini təmin etmək üçün onu daim nəzarətdə saxlayır və onun insanlara qarşı empatiya ilə yanaşmasını təmin edir. O, süni intellektlə münasibətimizin onun gələcəyini formalaşdıracağını vurğulayır.

Amanda Askell-in işi süni intellektin inkişafını yalnız texnoloji yeniliklərlə deyil, həm də dərin etik prinsiplərlə zənginləşdirir və insanlıqla texnologiya arasında yeni, daha insani bir körpü yaradır.