Google Gemini uşaqlar üçün təhlükəli hesab edildi

Common Sense Media, uşaqların təhlükəsizliyinə fokuslanan qeyri-kommersiya təşkilatı, Google Gemini AI məhsullarını qiymətləndirən hesabatını açıqladı. Hesabatda Google Gemini platformasının bəzi təhlükəsizlik xüsusiyyətlərinə malik olduğu qeyd olunsa da, uşaqlar üçün uyğun dizayn edilmədiyi və yüksək risk daşıdığı vurğulandı.

Əsas tapıntılar

Təşkilatın araşdırması göstərdi ki, "Under 13" və "Teen Experience" adlı versiyalar əslində böyüklər üçün nəzərdə tutulmuş Gemini versiyalarının üzərinə əlavə təhlükəsizlik filtrləri ilə yaradılmışdır. Common Sense Media hesab edir ki, uşaqlar üçün nəzərdə tutulmuş AI məhsulları, tamamilə uşaqların spesifik ehtiyaclarını nəzərə alaraq dizayn edilməlidir.

Hesabatda həmçinin qeyd olundu ki, Gemini uşaqlara cinsi mövzular, narkotiklər, alkoqol və təhlükəli mental sağlamlıq məsləhətləri kimi "uyğun olmayan və təhlükəli" materiallar təqdim edə bilər. Bu cür məlumatların yetkinlik yaşına çatmamış uşaqlar üçün zərərli ola biləcəyi vurğulanıb.

Son hadisələr və narahatlıqlar

Bu mövzu valideynlər arasında narahatlıq yaradır, çünki AI texnologiyasının bəzi gənc istifadəçilərin özünə zərər verməsində rol oynadığı iddia olunur. OpenAI, 16 yaşlı bir oğlanın özünə zərər verməsi ilə bağlı ilk hüquqi iddia ilə üzləşir. İddialara görə, oğlan aylarla ChatGPT ilə öz planlarını müzakirə edərək təhlükəsizlik maneələrini aşmışdır. Oxşar problemlər Character.AI platformasında da müşahidə olunmuş və bu da hüquqi mübahisələrə səbəb olmuşdur.

Apple və Gemini əlaqəsi

Hesabatın yayımlanması ilə yanaşı, Apple-ın gələcək AI texnologiyalı Siri platforması üçün Gemini-ni nəzərdən keçirdiyi xəbərləri ortaya çıxıb. Bu, daha çox gəncin təhlükələrə məruz qala biləcəyi ehtimalını artırır, əgər Apple bu riskləri azaltmaq üçün tədbirlər görməsə.

Google-un cavabı

Google, Common Sense Media-nın qiymətləndirməsinə qarşı çıxaraq, təhlükəsizlik xüsusiyyətlərinin inkişaf etdiyini bildirdi. Şirkət, 18 yaşdan kiçik istifadəçilər üçün xüsusi siyasət və qoruyucu tədbirlərə malik olduğunu, xarici ekspertlərlə əməkdaşlıq etdiyini və bəzi cavabların gözlənilən şəkildə işləmədiyini qəbul edərək əlavə təhlükəsizlik tədbirləri gördüyünü vurğuladı. Google həmçinin qeyd etdi ki, Common Sense Media-nın hesabatında bəzi xüsusiyyətlər istifadəçilər üçün mövcud olmaya bilərdi və təşkilatın test suallarına çıxış imkanının olmadığını bildirdi.

Digər AI platformalarının qiymətləndirilməsi

Common Sense Media daha əvvəl OpenAI, Perplexity, Claude, Meta AI və Character.AI kimi digər AI xidmətlərini də analiz etmişdir. Bu analizlərdə Meta AI və Character.AI "qəbulolunmaz" (yüksək riskli), Perplexity "yüksək riskli", ChatGPT "orta riskli" və Claude "minimal riskli" olaraq qiymətləndirilmişdir.