Anthropic впервые регулирует переговоры ИИ-агентов от имени пользователей

ИИ-агенты ведут переговоры от имени пользователей

Компания Anthropic разрабатывает искусственный интеллект, который способен вести переговоры от имени пользователей. Такие агенты будут использоваться для обсуждения скидок, урегулирования споров с клиентской поддержкой и даже для переговоров по трудоустройству.

Отсутствие правового регулирования вызывает опасения

В апреле Anthropic подчеркнула, что для подобных переговоров пока нет четких юридических норм. Компания отмечает важность разработки соответствующих правил и консультируется с юристами, однако имена экспертов не раскрываются.

Контроль за поведением ботов и взаимодействие с пользователями

Одной из ключевых проблем является частота, с которой агенты должны советоваться с пользователями, а также способность оценивать других агентов без излишней подозрительности. Для повышения безопасности предлагается использовать документы, подписанные пользователями, которые подтверждают действия агентов и позволяют им проверять полномочия друг друга.

Тестирование и результаты

В сентябре сотрудники Anthropic провели эксперимент, поручив ботам организовать обмен книгами. Более решительные агенты показали лучшие результаты, тогда как более кооперативные принимали менее популярные книги. Эти тесты помогают лучше понять поведение и эффективность ИИ-агентов.

Перспективы и риски

Если более продвинутые системы будут доступны только по дорогой подписке, это усилит существующие преимущества и углубит социальное и экономическое неравенство.

Инициатива Anthropic свидетельствует о том, что ИИ-агенты будут играть все большую роль в повседневной жизни, однако решение юридических и этических вопросов остается приоритетом.