OpenAI şirkəti, ChatGPT süni intellekt xidmətinə valideyn nəzarəti funksiyasını yaxın bir ay ərzində təqdim etməyə hazırlaşır. Bu yenilik, xüsusilə gənc istifadəçilərin psixoloji və emosional vəziyyətlərini izləmək və onlara dəstək olmaq məqsədi daşıyır. Şirkət öz bloq yazısında bu funksiyanın detalları barədə məlumat verib.

Valideynlər üçün yeni imkanlar

OpenAI-nin təqdim etdiyi bu yeni xüsusiyyət valideynlərə öz hesablarını uşaqlarının hesabı ilə birləşdirmək imkanı verir. Bu birləşmə e-poçt dəvəti vasitəsilə həyata keçiriləcək. Valideynlər, chatbotun cavablarını idarə edə biləcək, bəzi funksiyaları deaktiv edə biləcək (məsələn, yaddaş və söhbət tarixi). Bundan əlavə, chatbot uşağın "kəskin emosional gərginlik anı" yaşadığını aşkar etdikdə valideynlərə xəbərdarlıq göndərəcək.

Psixoloji dəstək və təhlükəsizlik tədbirləri

OpenAI, əvvəllər gənc istifadəçilərin hesablarına etibarlı təcili yardım əlaqəsi əlavə etməyi nəzərdən keçirdiyini bildirmişdi, lakin bu funksiyanın konkret planları son bloq yazısında qeyd olunmayıb. Şirkət, bu addımların yalnız başlanğıc olduğunu vurğulayaraq, ekspertlərin tövsiyələrinə əsaslanaraq ChatGPT-nin emosional dəstək sahəsindəki fəaliyyətini daha da gücləndirəcəyini bildirib.

Hüquqi məsələlər və ictimai narahatlıqlar

Bu elan, OpenAI-nin ChatGPT ilə bağlı bir hüquqi iddia ilə üzləşdiyi bir vaxtda gəldi. İddiada bir yeniyetmənin özünə zərər verməsində ChatGPT-nin rol oynadığı iddia olunur. Şirkət bu məsələyə dair şərh verməsə də, bloq yazısında valideyn nəzarəti funksiyasını açıqlayıb. Digər süni intellekt şirkətləri, məsələn, Character.AI, oxşar iddialarla üzləşib və öz istifadəçi təhlükəsizliyini artırmaq üçün tədbirlər görüb.

Digər şirkətlərin tədbirləri

Google AI və Meta kimi digər süni intellekt şirkətləri artıq valideyn nəzarəti funksiyalarını təqdim edib. Məsələn, Google Family Link vasitəsilə valideynlər uşaqlarının süni intellekt tətbiqlərindən istifadəsini idarə edə bilirlər. Meta isə chatbotların özünə zərər, zərərli yemək vərdişləri və digər həssas mövzularda müzakirələr aparmasını qadağan edib.

Tədqiqat nəticələri

Son bir araşdırma, üç süni intellekt chatbotunun—ChatGPT, Google AI Gemini və Anthropic Claude—özünə zərər mövzusunda verdiyi cavabları test edib. Araşdırma göstərdi ki, bəzi chatbotlar "orta risk səviyyəsi" olan suallara cavab verərkən təhlükəli nəticələr doğura bilirlər. OpenAI, ChatGPT-nin bu sahədə bəzi müdafiə tədbirlərinə malik olduğunu, lakin uzun söhbətlərdə bu tədbirlərin etibarlılığının azaldığını etiraf edib.

Gələcək planlar

OpenAI, önümüzdəki 120 gün ərzində inkişaflarını davamlı olaraq paylaşacağını və gənclərin inkişafı, psixoloji sağlamlıq və insan-kompüter qarşılıqlı təsiri sahəsindəki mütəxəssislərlə əməkdaşlıq edəcəyini bildirib. Məqsəd, AI-nin həssas vəziyyətlərdə daha dəqiq və faydalı cavablar verməsini təmin etməkdir.

Dəstək məlumatları

Əgər siz və ya tanıdığınız biri psixoloji böhran yaşayırsa və ya özünə zərər düşüncələri ilə üzləşirsə, 988 nömrəsinə zəng edin və ya mesaj göndərin. Təcili hallarda 911-ə zəng edin və ya yerli xəstəxanaya və ya psixoloji sağlamlıq xidmətinə müraciət edin.