Microsoft усиливает безопасность AI-агентов новыми инструментами

Новый этап безопасности AI-агентов Microsoft

Microsoft представила инновационные инструменты для повышения безопасности своих искусственных интеллект-агентов. Новые решения позволяют непрерывно оценивать внутренние риски и ограничивать права агентов при обнаружении угроз.

Project Perception и Guardian Agents: как работает система

В пакет Microsoft 365 E7 интегрирована система безопасности Project Perception, которая постоянно анализирует уровень риска каждого AI-агента. При повышении угрозы система может ограничить возможности агента, потребовать подтверждение от человека для выполнения рискованных операций или полностью остановить работу агента. В дополнение к этому появились Guardian Agents — специальные агенты, которые контролируют изменения рисков у других агентов и принимают меры для обеспечения безопасности.

Расширение ассортимента AI-агентов

Microsoft увеличила количество поддерживаемых AI-агентов с 25 до 60. В список вошли известные инструменты, такие как Claude Code от Anthropic, Codex от OpenAI и GitHub Copilot. Это демонстрирует серьезный подход компании к вопросам безопасности искусственного интеллекта.

Текущий статус и планы на будущее

Новые инструменты безопасности сейчас находятся на этапе закрытого тестирования. Microsoft планирует представить их широкой аудитории на конференции Ignite в Сан-Франциско, которая пройдет с 17 по 19 ноября 2026 года.

Мнение Сатьи Наделлы о контроле AI

Генеральный директор Microsoft Сатья Наделла подчеркнул важность внешнего контроля над AI-моделями: «Самая надежная система сверхинтеллекта — это не та, которой мы полностью доверяем, а та, которая позволяет управлять даже теми моделями, которым мы доверяем меньше всего». Эта позиция отражает новый подход к безопасности в сфере искусственного интеллекта.

Влияние на пользователей и перспективы

Внедрение новых инструментов создаст более прозрачную и надежную среду для управления AI-агентами. Пользователи и компании смогут снизить риски, связанные с деятельностью искусственного интеллекта, что откроет путь к более широкому применению AI в повседневной жизни и бизнесе.

Пакет Microsoft 365 E7 стоит около 99 долларов в месяц и включает AI-помощника Microsoft 365 Copilot, инструменты безопасности и продуктивности E5, средства идентификации Entra Suite и сервис Agent 365. Эти нововведения задают новые стандарты безопасности в области искусственного интеллекта.