Почему Великобритания ужесточает контроль над безопасностью ИИ

Кризис безопасности искусственного интеллекта в Великобритании

Великобритания столкнулась с серьезными вызовами в области безопасности искусственного интеллекта (ИИ). Американская компания Anthropic отказалась предоставить свой новейший ИИ-модель Институту безопасности ИИ Великобритании (AISI) и отключила доступ к своим передовым моделям для всех зарубежных пользователей. Этот шаг вновь поднял на международном уровне вопросы безопасности ИИ.

Опасения Anthropic и Джейкоба Коксона

Джейкоб Коксон, исследователь безопасности, проработавший в Anthropic три года, ушел из компании, заявив, что ИИ ставит под угрозу человеческую жизнь. Он подчеркнул, что вероятность того, что ИИ убьёт людей в течение следующего десятилетия, превышает 10%. Коксон отметил быстрый рост технологий ИИ и серьёзные риски, связанные с появлением суперинтеллекта.

Институт безопасности ИИ и позиция правительства Великобритании

Институт безопасности ИИ Великобритании считается мировым лидером в управлении рисками ИИ. Правительство признаёт, что ИИ представляет серьёзную угрозу национальной безопасности и требует полного доступа к передовым моделям. Премьер-министр подчеркнул важность обеспечения безопасности ИИ. В парламенте уже представлен законопроект, ограничивающий развитие суперинтеллекта.

Международное сотрудничество и призыв к новому договору

Депутат Даррен Джонс акцентировал необходимость многонационального договора по безопасности суперинтеллекта. Представитель Института Алана Тьюринга отметил важность сохранения лидерства Великобритании в области ИИ. Модель GPT-6 Astra от OpenAI была протестирована Институтом безопасности ИИ Великобритании перед публичным запуском.

Влияние на жизнь людей и взгляд в будущее

Опасения по поводу угроз ИИ продолжают расти. Слова Джейкоба Коксона заставляют серьёзно задуматься о рисках для человеческой жизни. Жёсткая позиция Великобритании и призывы к международному сотрудничеству рассматриваются как ключевые шаги для безопасного развития ИИ. В этом процессе приоритетом остаются защита жизни людей и национальная безопасность.