Как человеческий фактор влияет на предвзятость оценки ИИ

Как возникают предвзятости в оценке искусственного интеллекта

Большие языковые модели (LLM) обучаются на данных, созданных людьми, поэтому в процессе оценки они допускают предвзятости. Это приводит к разным результатам при оценке качества ответов и влияет на объективность искусственного интеллекта.

Влияние позиции и эмоционального тона

LLM по-разному оценивают ответы в зависимости от их позиции. Например, длинные ответы получают более высокие оценки, так как модель воспринимает их как признак большего усилия и экспертности. Эмоциональный тон также влияет на оценку: ответы с позитивным или нейтральным настроем оцениваются выше, тогда как страх или гнев снижают баллы.

Самовосхваление и предвзятость

Модель склонна ставить свои собственные ответы выше, чем ответы других моделей. Кроме того, существуют предвзятости по отношению к определённым странам, компаниям и личностям. Наличие идентификационной информации и ссылок в ответах также влияет на оценку — даже фальшивые ссылки могут повысить рейтинг ответа.

Измерение предвзятости и новые оценщики

Аналитики провели тесты для измерения предвзятости позиции и выявили, что эффект «bandwagon» — влияние консенсуса — достигает от 60% до 90%. Модель MiniCheck-FT5 с 770 миллионами параметров обеспечивает точность уровня GPT-4 и работает примерно в 200 миллисекунд, что в 400 раз быстрее GPT-4. Модель Lynx с 70 миллиардами параметров показывает результаты лучше GPT-4.

Мнение эксперта и пути снижения предвзятости

Соумил Джайн отмечает: «Нельзя полностью доверять LLM в роли судьи, я предпочитаю не использовать их для оценки». Использование одной и той же модели для генерации и оценки ответов усиливает предвзятость. Поэтому вопросы оценки должны быть более узко сформулированы, а для оценки следует применять специализированные модели.

Взаимодействие человека и технологии

Эти предвзятости показывают, что влияние человека на решения ИИ остаётся значительным. Предвзятость в оценке ставит под сомнение объективность технологий и подчёркивает необходимость разработки более прозрачных и справедливых механизмов оценки в будущем.