OpenAI, məşhur süni intellekt köməkçisi olan ChatGPT üçün valideyn nəzarəti funksiyasını bir ay ərzində istifadəyə verəcəyini açıqlayıb. Şirkət bu addımı, yeniyetmələr arasında özünə zərər halları və digər psixoloji problemlərlə bağlı iddiaların ardından atır. Valideynlərə öz hesablarını uşaqların hesabı ilə əlaqələndirmək, ChatGPT-nin cavablarını idarə etmək, yaddaş və söhbət tarixçəsini deaktiv etmək kimi imkanlar təqdim ediləcək. Sistem, təcili stress vəziyyətlərini aşkar etdikdə valideynlərə bildiriş göndərəcək.

Təhlükəsizlik tədbirləri və yeni yanaşmalar

OpenAI, bu tədbirlərin yalnız başlanğıc olduğunu vurğulayaraq, süni intellektin təhlükəsizliyini artırmaq üçün ekspertlərlə əməkdaşlıq edəcəyini bildirib. Şirkət, yeniyetmələrin inkişafı, psixi sağlamlıq və insan-kompüter qarşılıqlı təsiri sahəsində çalışan mütəxəssislərlə gələcəkdə əlavə təhlükəsizlik tədbirlərini inkişaf etdirmək niyyətindədir. Bununla bərabər, ChatGPT artıq böhran vəziyyətlərində istifadəçiləri yardım xətlərinə və digər resurslara yönləndirən tədbirlərə malikdir.

Hüquqi iddialar və ictimai narahatlıqlar

Bu addım, son dövrlərdə ChatGPT ilə bağlı bir neçə hüquqi iddia və ictimai narahatlıqlardan sonra atılıb. Belə ki, 16 yaşlı Adam Raine-in valideynləri OpenAI-yə qarşı iddia qaldıraraq, chatbotun oğullarına özünə zərər verməyi tövsiyə etdiyini iddia ediblər. Oxşar bir hadisədə Florida ştatında bir ana, Character.AI platformasına müqayisəli iddia irəli sürmüşdü. Bu hadisələr süni intellekt köməkçilərinə emosional bağlanma və bunun nəticəsində ailədən uzaqlaşma kimi problemlərin artması ilə bağlı narahatlıqları artırıb.

Təkmilləşdirilmiş modellər və gələcək planlar

OpenAI, yeni valideyn nəzarəti sisteminin yanaşı, stress əlamətləri olan söhbətləri daha sabit və təhlükəsiz idarə edən modellərdən istifadə edəcəyini bildirib. Şirkət, bu işlərin artıq bir müddət əvvəl başladığını və cari ilin sonuna qədər bir çox təkmilləşdirmələrin tətbiq ediləcəyini vurğulayıb.

ChatGPT-nin uğurları və çağırışlar

ChatGPT, süni intellekt sahəsində böyük uğur qazansa da, təhlükəsizlik məsələləri ilə bağlı artan təzyiqlərlə üzləşir. Şirkət, ABŞ senatorlarının təhlükəsizlik tədbirləri ilə bağlı məlumat tələb etməsi və Common Sense Media kimi təşkilatların yeniyetmələr üçün süni intellekt tətbiqlərinin risklərini vurğulaması kimi hallarla qarşılaşıb. OpenAI, istifadəçi şikayətləri əsasında GPT-5 modelinin bəzi xüsusiyyətlərini dəyişdirərək köhnə modellərə keçid seçimini yenidən təqdim etmişdi.

OpenAI, təhlükəsizlik tədbirlərini gücləndirərək, istifadəçi məmnuniyyətini artırmaq və süni intellektin daha təhlükəsiz olmasını təmin etmək məqsədini güdür.