Атаки на оборудование ИИ: почему угроза растёт и что ждать дальше

Проблема безопасности аппаратного обеспечения ИИ

Возможность взлома оборудования, управляющего ответами моделей искусственного интеллекта, вызывает новые опасения. Исследователи из компании Eclypsium выявили уязвимости в аппаратуре Nvidia, на которой работают ИИ-модели. Атаки занимают менее минуты и требуют сетевого доступа к специализированным устройствам.

Риски в геополитике и медицине

В ходе исследований ответы ИИ были намеренно искажены: вероятность конфликта между Китаем и Тайванем резко возросла. В другом случае пациенту с болью в груди ИИ дал неверный совет — остаться дома вместо обращения в больницу. Эти примеры ставят под сомнение надёжность ИИ и его влияние на человеческую жизнь.

Широкие возможности атак

Eclypsium отмечает, что уязвимости есть не только в оборудовании Nvidia, но и в других системах. Государственные акторы, включая Китай, Россию и США, могут использовать подобные атаки. Для реализации взлома необходимы технические знания и сетевой доступ к специализированным аппаратам, таким как DPU или BMC.

Меры безопасности и мнение экспертов

Nvidia усилила защиту, представив новую платформу безопасности против аппаратных атак. Eclypsium сотрудничает с Национальным агентством безопасности США и Агентством по кибербезопасности и инфраструктурной безопасности. Два независимых эксперта подтвердили достоверность результатов Eclypsium. Nvidia подчёркивает, что надёжная защита памяти помогает предотвратить атаки.

Влияние на людей и перспективы

Известно, что искажённые данные ИИ повлияли на военные операции США, что демонстрирует реальные последствия угрозы. Для надёжной работы ИИ важна безопасность не только моделей, но и инфраструктуры, на которой они работают. Это исследование подчёркивает критическую роль аппаратной безопасности в будущем искусственного интеллекта.