В Нью-Йорке впервые начнут проверять безопасность ИИ-моделей

В Нью-Йорке стартует программа проверки безопасности ИИ

Нью-Йорк запускает первую в стране государственную программу проверки безопасности и ответственного использования моделей искусственного интеллекта (ИИ). Инициатива реализуется при поддержке Центра ответственности и исследований ИИ при Университете Бингемтона.

В проекте участвуют более 80 учёных

В работе задействованы свыше 80 исследователей из Нью-Йорка, которые будут тестировать передовые ИИ-системы, выявлять их риски и предоставлять доказательную базу для принятия решений государственными органами. Программа также направлена на поддержку ответственного применения ИИ в медицине и научных открытиях.

Использование вычислительных мощностей Empire AI

Ключевую роль в проверках сыграют вычислительные мощности проекта Empire AI — общественно-частного партнёрства стоимостью 500 миллионов долларов США (около 850 миллионов манатов). Эта инфраструктура станет технологической основой инициативы.

Закон RAISE и его требования

Закон RAISE, подписанный губернатором Кэти Хокул в прошлом году, обязывает крупных разработчиков ИИ зарегистрироваться в государственном реестре до 1 января 2027 года. После этой даты компании должны публиковать отчёты о безопасности и прозрачности, а также сообщать о критических инцидентах в течение 72 часов. Однако закон не гарантирует полноценную проверку закрытых моделей.

Вопрос доверия к ИИ-компаниям

По словам губернатора Хокул, «ставки слишком высоки, чтобы просто верить словам ИИ-компаний». Новая программа направлена на повышение общественного доверия к безопасности искусственного интеллекта.

Влияние на людей и перспективы

Инициатива сделает влияние ИИ на жизнь людей более прозрачным и безопасным. Ответственное использование технологий в медицине и науке откроет новые возможности для здоровья и прогресса. Шаг Нью-Йорка может стать примером для других городов и стран.