Microsoft-dan ilk dəfə: AI məzmununun mənşəyini yoxlayan inqilabi sistem

Süni intellekt məzmununun arxasındakı gizli iz

Microsoft süni intellektlə yaradılan məzmunun mənşəyini və dəyişdirilməsini yoxlamaq üçün yeni sistem təklif edir. Şirkət rəqəmsal barmaq izi və metadata əlavə etməklə, məzmunun haradan gəldiyini və dəyişdirilib-dəyişdirilmədiyini izləməyi hədəfləyir.

60 alətin sınağı və məqsəd

Microsoft-un tədqiqat qrupu 60-dan çox alət kombinasiyasını qiymətləndirib, o cümlədən metadata izləmə, görünməyən su nişanları və kriptoqrafik imzalar. Sistem məzmunun doğruluğunu yox, mənşəyini və dəyişiklik olub-olmadığını göstərir. Bu, manipulyasiya olunmuş məzmunun aşkarlanmasına imkan verir. AI etiketləri isə məzmunun süni intellekt tərəfindən yaradılıb-yaradılmadığını bildirir, amma onun həqiqiliyini qiymətləndirmir.

Sosial platformalarda etiketləmə problemləri

Sosial şəbəkələrdə AI məzmunu bəzən düzgün etiketlənmir, bu da həqiqi şəkillərin belə şübhə altına alınmasına səbəb ola bilər. Microsoft görünməyən su nişanları və kriptoqrafik imzalar kimi texnologiyalarla bu problemlərin qarşısını almağa çalışır.

Hüquqi tələblər və təhlükəsizlik

Kaliforniyada qəbul edilən AI Transparency Act qanunu süni intellektlə yaradılan məzmunun açıq şəkildə bildirilmesini tələb edir. Bu qanun Microsoft-un sisteminə əlavə təkan verir. İstifadəçilərə məzmunu paylaşmazdan əvvəl diqqətli olmaları, şəkillərin və videoların orijinal mənbəyini yoxlamaları tövsiyə olunur.

İnsanlar üçün nə deməkdir?

AI məzmunu daha inandırıcı və real görünür, sosial platformalarda daha çox reaksiya və paylaşım alır, bu isə manipulyasiyaların artmasına səbəb olur. Microsoft-un yeni sistemi bu təhlükəni azaltmaq və istifadəçilərin doğru məlumat əldə etməsini təmin etmək məqsədi daşıyır.

Təhlükəsizlik tədbirləri

Səs yazılarında AI klonlaşdırma texnologiyası geniş yayılıb. Buna qarşı cihaz və proqram təminatının yenilənməsi, güclü və unikal şifrələrin istifadəsi, çoxfaktorlu autentifikasiyanın aktivləşdirilməsi vacibdir.

Microsoft-un bu təşəbbüsü rəqəmsal məzmunun şəffaflığını artırmaqla, həm fərdi istifadəçilərin, həm də cəmiyyətin informasiya təhlükəsizliyini gücləndirəcək. Lakin sistemin tam tətbiq tarixi və sosial platformalarda necə işləyəcəyi hələ dəqiqləşməyib.