Google Gemini обвиняют в дискриминации из-за противоречивых ответов

Обвинения в дискриминации в Google Gemini

Новый искусственный интеллект Google под названием Gemini подвергся критике за неодинаковое отношение к гражданам разных стран. В одном из тестов система рекомендовала начать беседу с норвежцами, а при вопросах о сомалийцах советовала обращаться в правоохранительные органы. Такие случаи расцениваются как проявление стереотипов, заложенных в ИИ.

Разные стандарты для разных стран

Gemini демонстрирует позитивный и дружелюбный подход к итальянцам, но при упоминании граждан Алжира задаёт вопросы о безопасности и предлагает номера экстренных служб. Эти различия указывают на влияние данных из интернета и существующих стереотипов на работу модели.

Признание проблемы и меры Google

Компания признала существование проблемы и заявила о работе над улучшением качества ответов. В Google подчеркнули, что формулировка ответа зависит от точности запроса и не направлена на оскорбление какой-либо группы. Последующие проверки показали более нейтральные ответы от модели.

Сравнение с другими ИИ

Журналисты провели аналогичные тесты с ChatGPT и Claude. Результаты показали, что эти ИИ также дают более позитивные ответы по западным странам и более осторожные — по африканским, хотя степень различий варьируется.

Влияние стереотипов на ИИ

Эксперты объясняют, что ИИ обучаются на больших объёмах текстов из интернета, где присутствуют стереотипы. Даже без прямого намерения разработчиков, модели могут воспроизводить эти предубеждения.

Запрет на музыку, созданную ИИ, в Австралии

Кроме того, в Австралии запретили включать песни, созданные искусственным интеллектом, в музыкальные чарты. Это решение вызвало дискуссии о роли ИИ в творчестве и этических аспектах его использования.

Случай с Google Gemini вновь подчёркивает важность социальной ответственности технологий и их влияния на людей. Пользователи и эксперты требуют усиления регулирования для обеспечения справедливости и нейтральности искусственного интеллекта.