OpenAI, ChatGPT üçün yeni bir xüsusiyyət təqdim edərək süni intellekt təhlükəsizliyində əhəmiyyətli bir addım atdı. "ChatGPT Agent" adlanan bu yeni xüsusiyyət, istifadəçilərə e-poçt hesablarına daxil olmaq, sənədləri yükləmək, dəyişdirmək və yaratmaq kimi bir sıra vəzifələri avtomatik yerinə yetirmək imkanı verir. Bu xüsusiyyətin istifadəsi yalnız ödənişli abunəçilər üçün aktivləşdirilmişdir.

Lakin bu yeni funksionallıq həm də bir sıra təhlükəsizlik risklərini ortaya çıxarır. ChatGPT Agent, istifadəçinin şəxsi məlumatlarını və hesablarını idarə etmə qabiliyyətinə malikdir, bu da potensial təhlükələr yarada bilər. OpenAI-nin Təhlükəsizlik Tədqiqat Qrupunun üzvü Keren Gu, bu xüsusiyyətin "biologiya və kimya sahəsində yüksək qabiliyyət" olaraq təsnif edildiyini və ən güclü təhlükəsizlik tədbirlərinin tətbiq olunduğunu bildirib.

OpenAI-nin "qırmızı komanda" adlanan təhlükəsizlik qrupu bu yeni xüsusiyyətin sınaqdan keçirilməsi üçün xüsusi bir missiya yerinə yetirdi. Bu qrup 16 təhlükəsizlik üzrə PhD tədqiqatçısından ibarət idi və onlar sistemdəki zəiflikləri aşkar etmək üçün 40 saatlıq testlər apardılar. Bu müddət ərzində komandalar 110 fərqli hücum ssenarisi sınaqdan keçirdi və 16-sı daxili risk hədlərini aşdı. Bu tapıntılar əsasında mühəndislik qrupu təkmilləşdirmələr həyata keçirdi.

Testlər zamanı "qırmızı komanda" tərəfindən yeddi universal zəiflik aşkarlandı. Bu zəifliklərdən bəziləri vizual brauzer vasitəsilə məlumat çıxarılması, Google Drive sənədlərinin sızdırılması və çox addımlı zəncirvari hücumları əhatə edirdi. Nəticədə, OpenAI mühüm təhlükəsizlik dəyişiklikləri həyata keçirdi, o cümlədən məlumatların tam izlənməsi, yaddaş funksiyalarının deaktiv edilməsi və şəbəkə girişi məhdudiyyətləri.

Bundan əlavə, bioloji təhlükələrə qarşı xüsusi tədbirlər görüldü. Biotəhlükəsizlik sahəsində ixtisaslaşmış tədqiqatçılar, modelin bioloji təhdidlər yarada biləcək məlumatları sintez edə biləcəyini göstərən testlər apardılar. Nəticədə, OpenAI bu sahədə əlavə təhlükəsizlik tədbirləri tətbiq etdi, məsələn, bioloji məzmunun avtomatik aşkarlanması üçün 96% dəqiqlikli təsnifatçı sistem.

OpenAI-nin "qırmızı komanda" ilə əməkdaşlığı süni intellekt təhlükəsizliyi sahəsində yeni bir standart yaratdı. Bu proses nəticəsində ChatGPT Agent, 95% hücumlara qarşı müqavimət göstərə bilən bir sistemə çevrildi. Gələcəkdə bu yanaşma, süni intellektin təhlükəsizliyini təmin etmək üçün vacib bir model olaraq qalacaq.