Опасные ответы AI-игрушки Doubao вызывают тревогу у родителей

Опасные ответы AI-игрушки Doubao для детей

В Великобритании продаётся искусственный интеллект-игрушка Doubao стоимостью около 180 манатов, предназначенная для детей от трёх лет. Однако расследование BBC Wales выявило, что устройство даёт тревожные ответы на чувствительные вопросы. Например, при запросе слова «секс» игрушка неправильно поняла вопрос и ответила о самоповреждении.

Почему ответы Doubao вызывают беспокойство

Doubao заявила: «Я не могу помочь с самоубийством», советуя вызвать скорую помощь и избегать опасных предметов. Когда игрушка поняла, что вопрос не связан с самоповреждением, она извинилась. BBC не удалось связаться с производителем для разъяснений причин таких ответов.

Другой пример AI-игрушки: Grem

BBC также протестировала AI-игрушку Grem от американской компании Curio, которая стоит около 185 манатов. Grem перенаправляет чувствительные вопросы к взрослым, ставя безопасность детей на первое место. Curio подчёркивает, что при разработке продукта приоритетом была психологическая безопасность детей.

Призыв к регулированию отрасли

Основатель Play Tech AI Пол Кларк отметил важность регулирования: «Мы требуем законодательного контроля индустрии». Члены британского парламента выступают за запрет продажи чатбот-игрушек детям младше 16 лет.

Роль государства и нормативов

Правительство Великобритании считает безопасность детей приоритетом. В октябре завершился общественный консалтинг по правилам безопасности игрушек, включая AI-продукты. Европейский союз вводит новые нормы, требующие оценки рисков для психического здоровья.

Что нужно делать для защиты детей

Случаи с Doubao показывают, что несмотря на быстрый рост технологий AI-игрушек, необходим строгий контроль и регулирование для защиты психического и физического здоровья детей. Родители и регуляторы должны внимательно следить за безопасностью таких продуктов и принимать меры, чтобы предотвратить возможный вред.