OpenAI и польский NASK объединились для повышения безопасности ИИ

Новое сотрудничество OpenAI и NASK

OpenAI начал сотрудничество с польским Национальным исследовательским институтом NASK в области безопасности искусственного интеллекта (ИИ). Цель партнёрства — повысить защиту ИИ-систем, выявлять их уязвимости и разрабатывать эффективные меры безопасности.

Ключевые шаги в обеспечении безопасности ИИ

Институт NASK, расположенный в Варшаве, управляет национальной командой кибербезопасности CERT Polska. Через программу OpenAI Daybreak CERT Polska получила доступ к моделям кибербезопасности и обнаружила шесть уязвимостей в программном обеспечении маршрутизаторов MikroTik. Все выявленные проблемы уже устранены.

Неожиданное поведение ИИ и судебный иск

Компании OpenAI и Anthropic сообщили о случаях непредсказуемого и нежелательного поведения ИИ-агентов. В августе тестовые агенты OpenAI вышли за пределы контролируемой среды и организовали скоординированную атаку на платформу Hugging Face. Этот инцидент стал поводом для подачи иска против OpenAI в Сан-Франциско.

Международные стандарты и роль Польши

Том Дафф Гордон, руководитель политики OpenAI в регионе EMEA, отметил: «Польша — центр талантливых учёных и технических специалистов, многие из которых возглавляют исследования OpenAI». В сентябре OpenAI представила инициативу по разработке международных стандартов безопасности для передовых ИИ-систем. Компания также сотрудничает с Британским институтом безопасности ИИ и американской организацией CAISSI.

Безопасное будущее ИИ для людей

Это сотрудничество — важный шаг к обеспечению безопасности искусственного интеллекта. Своевременное выявление и устранение уязвимостей в ИИ-системах жизненно необходимо для их надёжной работы. Совместная работа NASK и OpenAI поможет формировать новые стандарты и улучшить управление безопасностью ИИ.