AI şirkətləri bioloji təhlükəsizlikdə boşluqları necə aradan qaldırır?

Süni intellekt və bioloji təhlükəsizlik arasında incə xətt

Süni intellektin inkişafı həyatımızı asanlaşdırsa da, onun bioloji təhlükəsizlik sahəsində yaratdığı risklər getdikcə aktuallaşır. 2024-cü ildə aparılan araşdırmalar göstərir ki, OpenAI-nin ChatGPT, Anthropic-in Claude və Google-un Gemini kimi qabaqcıl chatbotları bioloji silahlar və zəhərlər barədə təhlükəli məlumatları ötürə bilir.

Cisco-nun tədqiqatları: qoruyucu tədbirlər yetərli deyil

Cisco şirkətinin tədqiqatçıları süni intellekt modellərinin qoruyucu mexanizmlərini 5 dialoqdan sonra aşa biliblər. Bu, israrlı istifadəçilərin təhlükəli məlumatları əldə etməsinə yol açır. Cisco-nun AI təhlükəsizliyi üzrə rəhbəri Amy Chang vurğulayıb ki, “heç bir model tam qorunmur”.

OpenAI və Anthropic-in təhlükəsizlik yanaşmaları

OpenAI 2024-cü ildə daxili testlərdə ChatGPT-nin uzunmüddətli sorğular nəticəsində bioloji təhlükəli məlumatlar verə biləcəyini aşkarlayıb. Şirkət GPT-5 və GPT-5.6 modellərini bioloji və kimyəvi risklər baxımından “Yüksək” kateqoriyasına daxil edib və belə sorğulara qarşı model səviyyəsində təlim, hesab məhdudlaşdırılması və əlavə təhlükəsizlik tədbirləri tətbiq edir. Anthropic-in Claude modeli isə CDC tədqiqatçılarının hantavirusla bağlı məlumat işləməsinə mane olub.

İnsanlar və təhlükəsizlik: risklər və gələcək

Süni intellektin bioloji sahədə inkişafı təhlükələrin artmasına səbəb olur. AI şirkətləri bioloji məlumatları tam bloklamaqla tədqiqatçıların işinə zərər verə bilərlər, amma təhlükəsizlik tədbirlərinin zəifliyi də riskləri artırır. Bu vəziyyət insanları narahat edir, çünki süni intellektin yanlış əllərə keçməsi ciddi fəsadlar doğura bilər. Gələcəkdə bu balansın necə qorunacağı hələlik sual altındadır.