Индийские исследователи впервые взломали систему OpenAI с помощью Claude

Успешная атака на OpenAI с помощью Claude

Три индийских специалиста по кибербезопасности — Харш Джайсвал, Мохан Педхапати и Рахул Майни — обнаружили уязвимость в системе OpenAI и успешно её использовали, применив искусственный интеллект Anthropic под названием Claude. Это произошло в рамках программы bug bounty OpenAI, где исследователи завершили эксперимент менее чем за 72 часа.

Команда Hacktron AI и детали атаки

Все трое работают в стартапе Hacktron AI, специализирующемся на кибербезопасности. Мохан Педхапати является техническим директором и сооснователем компании, Харш Джайсвал — сооснователь и исследователь уязвимостей, а Рахул Майни — исследователь уязвимостей в той же команде.

Как была обнаружена уязвимость?

Исследователи выявили слабое место в обработке определённых файлов изображений на публичном форуме OpenAI. Claude помог им написать и усовершенствовать эксплойт для эксплуатации этой уязвимости. Используя токены для входа, они получили доступ к учётным записям сотрудников OpenAI и в итоге смогли войти в приватную среду GitHub компании.

Расходы и вознаграждение

Во время эксперимента исследователи потратили менее 3000 долларов на AI-токены. OpenAI выплатил им вознаграждение в размере 6500 долларов за найденные уязвимости. В отличие от Claude, они комбинировали несколько уязвимостей для проведения атаки.

Новый этап взаимодействия человека и технологий

Этот случай демонстрирует, что инструменты искусственного интеллекта могут эффективно использоваться не только для развития, но и для тестирования безопасности. Сочетание человеческого интеллекта и AI открывает новые возможности в кибербезопасности, но одновременно создаёт новые риски. Даже такие технологические лидеры, как OpenAI, сталкиваются с уязвимостями, что подчёркивает сложности быстрого развития технологий.

Успешный взлом стал уроком для специалистов по безопасности и разработчиков AI: независимо от сложности систем, совместные усилия человека и искусственного интеллекта способны преодолеть любые барьеры.