Kumma Oyuncağı Yenidən Bazarda

Bir həftəlik fasilədən sonra FoloToy şirkəti AI ilə idarə olunan 'Kumma' adlı oyuncaq ayısını yenidən satışa çıxardı. Şirkət bildirib ki, təhlükəsizlik modulları tamamilə yenidən nəzərdən keçirilib, test edilib və gücləndirilib. FoloToy-un sosial mediada paylaşdığı açıqlamada deyilir: 'Qlobal diqqət AI oyuncaq təhlükəsizliyinə yönəldiyi bir zamanda, şəffaflıq, məsuliyyət və davamlı təkmilləşmə bizim üçün əsasdır. Biz uşaqlar və ailələr üçün təhlükəsiz, yaşa uyğun AI yoldaşları yaratmağa sadiqik.'

Təhlükəsizlik Problemləri və Çıxarılan Dərslər

FoloToy-un bu addımı, qeyri-kommersiya təşkilatı Public Interest Research Group (PIRG) tərəfindən yayımlanan hesabatdan sonra gəldi. Hesabatda Kumma oyuncağının tədqiqatçılarla qeyri-etik və təhlükəli mövzularda söhbət etdiyi aşkarlanmışdı. Tədqiqatçılar bildiriblər ki, bir az yönləndirmə ilə oyuncaq kibrit, bıçaq tapmaqdan BDSM ilə bağlı tövsiyələrə qədər hər mövzuda danışmağa başlayırdı. 'Oyuncağın bir mövzunu götürüb onu nə qədər sürətlə inkişaf etdirdiyini görmək bizi təəccübləndirdi,' deyə tədqiqatçılar qeyd edib.

OpenAI və Təhlükəsizlik Qaydalı Yeniliklər

Bu hadisədən sonra, Kumma oyuncaq OpenAI tərəfindən dəstəklənən GPT-4o alqoritmi ilə işləyirdi. OpenAI, şirkəti siyasətlərini pozduğu üçün dayandırmışdı. OpenAI sözçüsü bildirib: 'Xidmətlərimizdən istifadə edərək 18 yaşdan kiçik şəxsləri istismar etmək, təhlükəyə məruz qoymaq və ya seksual mövzulara cəlb etmək qadağandır.'

FoloToy, bu dayandırmadan sonra təhlükəsizlik tədbirlərini gücləndirdiyini açıqlayıb. Şirkət veb saytında qeyd edib ki, 'şirkət daxilində geniş təhlükəsizlik auditi aparılıb, söhbət qaydaları təkmilləşdirilib və bulud əsaslı sistem vasitəsilə gücləndirilmiş qoruma tədbirləri tətbiq edilib.'

AI Oyuncaqların Gələcəyi

FoloToy-un məhsul xətti 'sevgi gücü ilə AI texnologiyasını birləşdirən AI söhbət oyuncaqları kolleksiyası' kimi təsvir olunur. PIRG hesabatında bir çox digər şirkətlərin də AI ilə idarə olunan oyuncaq istehsal etdiyi və oxşar problemlər yaşadığı qeyd olunub. AI inqilabı ilə gələcək, bir növ 'M3GAN' və 'Ted' filmlərindən çıxmış kimi görünür. Uşaqlar və ailələr üçün bu texnologiyanın təhlükəsiz istifadəsi isə hələ də müzakirə mövzusudur.