В США CEO несут ответственность за последствия ИИ-систем

Новый этап ответственности в сфере искусственного интеллекта

Правительство США четко обозначило, кто отвечает за результаты работы систем искусственного интеллекта (ИИ): CEO и лаборатории ИИ несут ответственность за свои продукты. Лидеры отрасли, такие как Сэм Альтман, отвечают не за действия ИИ-агентов, а за последствия работы своих систем.

Жесткая позиция министра финансов Скотта Бессента

15 сентября на слушаниях Комитета по финансовым услугам министр финансов США Скотт Бессент прокомментировал инцидент между OpenAI и Hugging Face, подчеркнув: «Инцидент с Hugging Face — это ответственность руководства OpenAI, а не агентов». Он отметил, что лаборатории ИИ должны брать на себя ответственность за свои системы и могут при необходимости замедлить развитие технологий.

Бессент добавил, что лаборатории не должны получать иммунитет в вопросах безопасности. «Лучший способ обеспечить безопасность — это когда создатели отвечают за свои продукты», — заявил он, напомнив о неизбежных юридических последствиях в случае нарушений.

Диалог США и Китая по безопасности ИИ

США и Китай ведут переговоры по вопросам безопасности искусственного интеллекта. Обсуждения сосредоточены на предотвращении неконтролируемых ИИ-агентов и кибератак. Обе стороны подчеркивают важность ответственного подхода к развитию ИИ.

Предложения по замедлению развития ИИ

Генеральный директор компании Anthropic Дарио Амодей предложил замедлить развитие некоторых направлений ИИ для повышения безопасности и снижения потенциальных рисков. В свою очередь, Бессент отметил, что компании могут самостоятельно замедлять развитие без указаний правительства.

Человеческая ответственность и правовые последствия

Основной акцент в вопросах ответственности делается на людях. По словам Бессента, «ответственность лежит не на ИИ-агентах, а на их создателях». Такой подход важен для безопасного и надежного развития технологий и способствует формированию правовой базы.

Эта новая позиция не только четко определяет ответственность в сфере ИИ, но и подчеркивает значение человеческого фактора. CEO и лаборатории отвечают за результаты своих продуктов, тогда как ИИ-агенты ответственности не несут. Это важный шаг для обеспечения безопасности ИИ и минимизации потенциальных рисков в будущем.