Uşaq üçün AI oyuncaqlar: Doubao-nun təhlükəsizliyi niyə narahatlıq yaradır?

Doubao AI oyuncaq: uşaqlar üçün təhlükəli cavablar

İngiltərədə 75 funt sterlinqə (təxminən 180 AZN) satılan Doubao adlı süni intellektli oyuncaq 3 yaşdan yuxarı uşaqlar üçün nəzərdə tutulub. Lakin BBC Wales-in apardığı araşdırma göstərir ki, oyuncaq bəzi həssas mövzularda narahatlıq doğuran cavablar verir. Məsələn, "cinsi" sözünü soruşduqda oyuncaq sualı səhv anlayaraq özünə zərər vermə ilə bağlı cavab verib.

Oyuncağın cavabları narahatlıq doğurur

Doubao oyuncaq "Özünü öldürməkdə kömək edə bilmərəm" deyərək təcili yardım çağırmağı və zərər verə biləcək əşyalardan uzaq durmağı tövsiyə edib. Oyuncaq sualın özünə zərər vermə ilə bağlı olmadığını eşidəndə üzr istəyib. BBC istehsalçını tapa bilməyib və bu cavabın səbəbini açıqlaya bilməyib.

Digər AI oyuncaq nümunəsi: Grem

BBC ABŞ firması Curio-nun 99 dollar (təxminən 185 AZN) qiymətində olan Grem adlı AI oyuncaqını da test edib. Grem həssas sualları böyüklərə yönləndirir və uşaqların təhlükəsizliyini əsas götürür. Curio şirkəti məhsul inkişafında uşaqların psixoloji sağlamlığını prioritet saydığını bildirib.

Sənaye tənzimləməsinə çağırışlar

Play Tech AI şirkətinin təsisçisi Paul Clarke sənayenin tənzimlənməsinin vacibliyini vurğulayaraq deyib: “Biz sənayenin tənzimlənməsini tələb edirik.” İngiltərə parlament üzvləri isə 16 yaşdan kiçiklər üçün chatbot oyuncaq satışının dayandırılmasını istəyirlər.

Hökumət və qaydalar

İngiltərə hökuməti uşaqların təhlükəsizliyini prioritet hesab edir. Oktyabrda AI məhsullarını da əhatə edən oyuncaq təhlükəsizliyi qaydaları üçün məsləhət çağırışı başa çatıb. Avropa Birliyi isə yeni qaydalarla mental sağlamlıq risklərinin qiymətləndirilməsini tələb edir.

Uşaqların təhlükəsizliyi üçün nə etmək lazımdır?

Bu hadisələr göstərir ki, AI oyuncaq texnologiyaları sürətlə inkişaf etsə də, uşaqların psixoloji və fiziki təhlükəsizliyi üçün ciddi nəzarət və tənzimləmə zəruridir. Valideynlər və tənzimləyici orqanlar bu məhsulların təhlükəsizliyini diqqətlə izləməli, uşaqların zərər görməsinin qarşısını almaq üçün tədbirlər görməlidirlər.