Как ИИ-компании устраняют риски в биобезопасности

Тонкая грань между искусственным интеллектом и биобезопасностью

Развитие искусственного интеллекта облегчает нашу жизнь, но одновременно обостряет риски в сфере биобезопасности. В 2024 году исследования показали, что передовые чат-боты, такие как ChatGPT от OpenAI, Claude от Anthropic и Gemini от Google, способны передавать опасную информацию о биологическом оружии и ядах.

Исследования Cisco: защитные меры недостаточны

Эксперты Cisco выявили, что защитные механизмы ИИ-моделей можно обойти уже после пяти диалогов. Это позволяет настойчивым пользователям получить доступ к опасным данным. Руководитель отдела безопасности ИИ Cisco Эми Чанг подчеркнула: «Ни одна модель не защищена полностью».

Подходы OpenAI и Anthropic к безопасности

Внутренние тесты OpenAI в 2024 году показали, что ChatGPT при длительных запросах может раскрывать биологически опасную информацию. Модели GPT-5 и GPT-5.6 отнесены компанией к категории «Высокий» уровень риска по биологическим и химическим угрозам. Для борьбы с этим применяются обучение моделей, ограничение запросов и дополнительные меры безопасности. Модель Claude от Anthropic, в свою очередь, блокировала обработку данных о хантавирусе, что подтверждают исследователи CDC.

Люди и безопасность: риски и перспективы

Развитие ИИ в биологической сфере увеличивает угрозы. Полная блокировка биологических данных может затруднить работу учёных, но слабая защита повышает риски утечки опасной информации. Это вызывает обеспокоенность, поскольку попадание ИИ в неправильные руки может привести к серьёзным последствиям. Как сохранить баланс между доступом к знаниям и безопасностью — остаётся открытым вопросом.