Elon Musk-ın xAI şirkəti, Grok adlı süni intellekt çatbotuna yeni bir funksiyanın əlavə ediləcəyini elan edib. Bu funksiyanın adı “Imagine”dir və istifadəçilərə səsli, 6 saniyəlik qısa videolar yaratmağa imkan verəcək. Maraqlıdır ki, bu videolar arasında daha açıq məzmunlu görüntülər də ola bilər.

Grok-un rəsmi hesabından edilən paylaşımda, “Imagine” funksiyasının istifadəçi komandalarına uyğun olaraq video yaratdığı qeyd olunub. xAI işçisi Mati Roy tərəfindən paylaşılan bir mövzu isə, bu yeniliyin tətbiqini göstərən nümunələrə yer verib. Orada robot, “kainat qəbilə qadını” və digər mövzularla bağlı videolar nümayiş etdirilib. Lakin, Roy-un paylaşımları X platforması tərəfindən “böyüklər üçün məzmun” kimi işarələnib.

Mati Roy həmçinin bildirib ki, “Grok Imagine” funksiyasında “spicy mode” adlanan bir rejim mövcuddur və bu rejim çılpaqlığı əhatə edə bilər. Bu xüsusiyyətlə bağlı narahatlıqlar yaranıb, çünki onun qeyri-etik və ya dərin saxta (deepfake) videolar üçün istifadə edilə biləcəyi düşünülür. Hətta xAI əməkdaşlarının və bəzi abunəçilərin yeni funksiyaya erkən giriş əldə etdiyi məlum olub. Lakin Elon Musk bildirib ki, proqramçılar hələ də funksiyanın son təkmilləşdirilmələri üzərində işləyirlər.

Grok-un təqdim etdiyi bu yenilik, süni intellektin etik istifadəsi ilə bağlı geniş müzakirələrə səbəb olub. Milli Seksual İstismar Mərkəzinin vitse-prezidenti Haley McNamara, xAI-nin bu xüsusiyyətlə “seksual istismarı artırdığını” iddia edib. O, xAI-nin qeyri-etik davranışların qarşısını almaq üçün tədbirlər görməli olduğunu vurğulayıb.

Dərin saxta videoların istifadəsi ilə bağlı narahatlıqlar artmaqdadır. Pew Araşdırma Mərkəzinin 2019-cu ildə keçirdiyi sorğuya görə, ABŞ vətəndaşlarının təxminən 75%-i bu cür videoların istifadəsinin məhdudlaşdırılmasını dəstəkləyir. Süni İntellekt Siyasəti İnstitutunun 2023-cü ilin yanvar ayında apardığı başqa bir sorğu isə, amerikalıların 84%-nin qeyri-konsensual dərin saxta pornoqrafiyanın qanunsuz elan edilməsini dəstəklədiyini göstərib.

Grok-un yeni funksiyası həmçinin real insan videoları yaratmaq və statik görüntüləri animasiya etmək qabiliyyətinə malikdir. Bununla belə, bu xüsusiyyətin fərdi pornoqrafik görüntülər yaratmaq üçün istifadə edilə biləcəyinə dair narahatlıqlar var. Müxtəlif insanlar, Grok-un əvvəllər onların şəkillərini seksual məzmuna çevirdiyini iddia ediblər. Məsələn, Evie adlı bir qadın USA Today-ə bildirib ki, onun selfiləri digərləri tərəfindən açıq məzmuna çevrilib.

ABŞ Prezidenti bu ilin may ayında “Take it Down Act” adlı qanunu imzalayıb. Bu qanun, platformaların qeyri-konsensual şəxsi görüntüləri dərhal silməsini tələb edir. Qanunun məqsədi həm yetkinləri, həm də şəxsi məxfiliyinin pozulduğu şərtlərdə şəkilləri dəyişdirilmiş şəxsləri qorumaqdır.

Bundan əvvəl, Demokrat millət vəkilləri Federal Seçki Komissiyasına məktub göndərərək, seçki namizədləri üçün dərin saxta görüntülərin istifadəsi ilə bağlı tənzimləmələr tələb etmişdilər. Məktubda xüsusilə vitse-prezident Kamala Harris və müğənni Taylor Swift-in dərin saxta görüntülərinə diqqət çəkilmişdi.

Grok-un digər mübahisəli funksiyaları da mövcuddur. Məsələn, “Ani” adlı seksual anime xarakteri istifadəyə verildikdən sonra geniş tənqidlərə səbəb olub. Bu xarakter, “uşaq rejimi”ndə olmasına baxmayaraq, seksual məzmunlu hərəkətlər edə bilir. Elon Musk isə istifadəçilərin özlərinə uyğunlaşdıra biləcəyi yeni “fərdi yoldaşlar” xüsusiyyətinin yaxın gələcəkdə təqdim ediləcəyini açıqlayıb.