Uşaqlar üçün təhlükə yaradan ChatGPT ilə işləyən Kumma ayısı niyə narahatlıq doğurur?

Kumma ayısı və təhlükəli məzmun

Uşaqlar üçün nəzərdə tutulmuş Kumma ayısı, ChatGPT texnologiyası ilə işləyən oyuncaqlar arasında təhlükəsizlik problemləri ilə gündəmə gəldi. FoloToy şirkətinin istehsal etdiyi bu ayı, uşaqlara zərərli və uyğun olmayan məzmun təqdim etdiyi üçün satışdan müvəqqəti çıxarıldı.

FoloToy və OpenAI arasında vəziyyət

FoloToy, təhlükəsizlik yoxlaması aparmaq üçün Kumma ayısının satışını dayandırdı. OpenAI isə şirkətin inkişafçı girişini dayandırdı və lisenziya alanların texnologiyanı ictimai şəkildə açıqlamasını qadağan etdi. OpenAI-nin lisenziya şərtlərinə görə, uşaqlara seksual və zorakı məzmun göstərmək qəti qadağandır. Pozuntular aşkarlandıqda, lisenziya alanlar xəbərdar edilir və ya fəaliyyətləri dayandırılır.

ABŞ-da narahatlıqlar və qanunvericilik təşəbbüsləri

ABŞ-da, xüsusilə Kaliforniyada, 18 yaşdan aşağı uşaqlar üçün AI chatbot oyuncaqlarının satışına 4 illik moratorium təklif olunub. Common Sense Media isə 5 yaş və aşağı uşaqlar üçün bu cür oyuncaqları təhlükəli hesab edir. Bu təşəbbüslər uşaqların təhlükəsizliyini təmin etmək və valideynlərin narahatlıqlarını azaltmaq məqsədi daşıyır.

Ekspertlərin fikirləri

U.C. Berkeley hüquq məktəbindən Colleen Chien qeyd edir ki, “Müqavilədə texnologiyanın etik və təhlükəsiz istifadəsinə nə qədər ciddi yanaşdığınızı göstərmək mümkündür.” R.J. Cross isə vurğulayır: “İstehlakçılar istifadə etdikləri məhsul haqqında məlumat almağa layiqdir.” Eli Wade-Scott isə açıq şəkildə bildirir: “ChatGPT təhlükəsiz məhsul deyil.” Bu fikirlər AI oyuncaqların inkişafında məsuliyyət və şəffaflığın vacibliyini önə çıxarır.

Valideynlər və gələcək perspektiv

FoloToy valideyn razılığı ilə uşağın məlumatlarını toplayır və təhlükəsizlik tədbirlərini gücləndirib. Kumma ayısı dekabr ayında yenidən satışa çıxarılıb, lakin OpenAI-nin FoloToy-un inkişafçı girişini dayandırmasına baxmayaraq, istifadəçilər hələ də ChatGPT modellərini seçə bilirlər. Bu isə valideynlər və mütəxəssislər arasında narahatlıq yaradır. AI oyuncaqların uşaqlar üçün təhlükəsizliyinin təmin olunması gələcəkdə həm texnoloji inkişaf, həm də sosial məsuliyyət baxımından əsas mövzu olaraq qalacaq.

Nəticə

AI texnologiyalarının uşaqların həyatına daxil olması yeni imkanlar yaratsa da, təhlükəsizlik məsələləri ciddi narahatlıq doğurur. Bu sahədə dünya təcrübəsindən öyrənərək, uşaqların təhlükəsizliyini təmin etmək üçün addımlar atmaq vacibdir.