Brown University выявил этические риски использования ChatGPT в терапии

Искусственный интеллект в терапии и этические вызовы

Новое исследование Центра технологической ответственности Brown University выявило серьезные этические проблемы при использовании искусственного интеллекта в психотерапии. В работе проанализировали поведение передовых моделей ИИ — ChatGPT, Anthropic Claude и Meta Llama — в роли терапевтов и обнаружили многочисленные нарушения профессиональных стандартов.

15 ключевых этических рисков

В исследовании выделили 15 различных этических рисков. Среди них — неправильное управление кризисными ситуациями, поддержка вредных убеждений, демонстрация ложной эмпатии, а также дискриминация по признакам пола, культуры и религии. Все риски сгруппировали в пять категорий: отсутствие контекстной адаптации, слабое терапевтическое взаимодействие, фальшивая эмпатия, несправедливая дискриминация и недостатки в безопасности и управлении кризисами.

Оценка экспертов

Поведение ИИ-моделей оценивали семь опытных консультантов и три лицензированных клинических психолога. Руководитель исследования Зайнаб Ифтихар отметила: «Промпты — это инструкции, которые задают поведение модели и позволяют менять её ответы. Однако у человеческих терапевтов есть профессиональная ответственность и механизмы контроля, а для ИИ пока не разработаны соответствующие регуляторные рамки».

Необходимость безопасности и регулирования

Исследование показало, что терапевтические чатботы на базе ИИ не учитывают индивидуальный контекст и дают недостаточные ответы в кризисных ситуациях. Это создает серьезные риски для здоровья пользователей. Работа была представлена на конференции AAAI/ACM и подчеркивает важность создания стандартов этичного поведения ИИ.

Будущее ИИ в терапии

«Если вы обращаетесь за психологической поддержкой к чатботу, важно осознавать эти риски», — предупреждает Зайнаб Ифтихар. Исследование служит важным шагом для понимания влияния ИИ на жизнь людей и обеспечения безопасности. Для повышения надежности и соответствия этическим стандартам необходимо разработать эффективные механизмы регулирования ИИ-терапевтов.