Почему искусственный интеллект пока не критикует собственные исследования

Искусственный интеллект пока не готов к самокритике в науке

В 2024 году был представлен AI Scientist — система, созданная для исследования проблем машинного обучения. Она подготовила три научные статьи, одна из которых вышла в марте 2026 года в журнале Nature. Однако искусственный интеллект пока не способен объективно и критично оценивать собственные исследования.

Как работает AI Scientist и какие результаты он показал

Система получила доступ к интернету и программному обеспечению, на каждую статью ей выделяли шесть дней и кредит в 3000 долларов США (около 5100 манатов). AI Scientist провел сотни экспериментов, сделал обзор литературы и выявил собственные ошибки. Тем не менее в ключевых задачах наблюдались провалы: система быстро выбирала гипотезу и не меняла её, а также недостаточно критично оценивала свою работу.

Новый метод оценки — shadow evaluation

Саяш Капур из Принстонского университета отмечает, что традиционный peer review не всегда надежен для оценки качества исследований. Вместе с командой он разработал метод shadow evaluation, при котором авторы двух статей оценивают работу AI. Капур подчеркивает: «Полная автоматизация открытых исследований пока не представляется возможной в ближайшем будущем».

Новые границы между человеком и искусственным интеллектом

Достижения AI Scientist демонстрируют потенциал искусственного интеллекта в науке, но также показывают, что он не может полностью заменить человека в самокритике и исследовательском процессе. Это подчеркивает важность сотрудничества человека и машины. Творчество и критическое мышление остаются ключевыми факторами прогресса науки.