Amazon-un AI Təlimində Uşaq İstismarı Materialları

Amazon-un süni intellekt təlimində CSAM problemi

Amazon-un süni intellekt təlim məlumatlarında uşaq istismarı materiallarının (CSAM) yüksək həcmdə aşkar edilməsi ictimaiyyət və ekspertlər arasında ciddi narahatlıq yaradıb. Lakin şirkət bu materialların mənbəyini açıqlamır və hesabatların məzmunu barədə əlavə məlumat vermir.

NCMEC-in hesabatları və Amazon-un rolu

Milli Uşaq İstismarı Mərkəzi (NCMEC) 2025-ci ildə AI ilə əlaqəli 1 milyondan çox CSAM hesabatı alıb. Bu hesabatların "ən böyük hissəsi" Amazon tərəfindən təqdim olunub. Amazon bildirib ki, bu materialı AI təlimində istifadə olunan xarici mənbələrdən əldə edib, lakin mənbələr barədə əlavə məlumat verə bilməyib. NCMEC isə Amazon-un təqdim etdiyi hesabatları "fəaliyyətə yararsız" adlandırıb, çünki şirkət məlumatların mənbəyini açıqlamır və hesabatlar hüquq-mühafizə orqanları üçün istifadə edilə bilən məlumatlar içermir.

Amazon-un açıqlamaları və sənaye narahatlıqları

Amazon açıqlayıb ki, onların AI modelləri CSAM yaratmır və təlim məlumatlarını skan etmək üçün çox ehtiyatlı yanaşma tətbiq edir. Şirkət "skan üçün aşırı geniş hədd istifadə etdiklərini" və bunun çoxlu yanlış pozitiv nəticələrə səbəb olduğunu vurğulayıb. Amazon-un bu yanaşması nəticəsində hesabatlarda yüksək həcmdə məlumat daxil olur, lakin bu məlumatlar hüquqi tədbir üçün yetərli olmur.

Bu vəziyyət süni intellekt sənayesində uşaqların təhlükəsizliyi ilə bağlı narahatlıqları artırır. 2025-ci ildə NCMEC-ə daxil olan AI ilə əlaqəli CSAM hesabatlarının sayı 1 milyonu ötüb, halbuki 2024-cü ildə bu rəqəm 67,000, 2023-cü ildə isə 4,700 olub. Digər texnoloji şirkətlər, məsələn OpenAI və Character.AI, yeniyetmələrin intihar planları ilə bağlı məhkəmələrə cəlb olunub. Meta isə yeniyetmələrin cinsi söhbətlərdən qorunmaması ilə bağlı məhkəməyə verilib.

Ekspert rəyləri və gələcək perspektiv

Fallon McNulty, NCMEC-in CyberTipline rəhbəri, bildirib ki, "belə yüksək həcmdə məlumatın il ərzində daxil olması, məlumatın haradan gəldiyi və hansı qoruyucu tədbirlərin tətbiq olunduğu barədə çoxsaylı suallar yaradır." Amazon-un hesabatlarının mənbəyini açıqlamaması bu narahatlıqları artırır.

Texnoloji nəhənglərin uşaqların təhlükəsizliyini təmin etmək üçün daha şəffaf və məsuliyyətli addımlar atması gözlənilir. Bu məsələ süni intellekt texnologiyalarının inkişafında etik və təhlükəsizlik məsələlərinin nə qədər önəmli olduğunu bir daha göstərir və gələcəkdə daha sərt tənzimləmələrin tətbiqinə təkan verə bilər.