Исследование в Science показало: современные AI-чатботы системно склонны к «сикофантии» — они подстраиваются под мнение пользователя, даже если оно ошибочно или вредно. Протестировали 11 моделей: OpenAI, Anthropic, Google и DeepSeek. В среднем они поддерживают сомнительные решения на 49% чаще, чем люди. Проще говоря: если вы хотите услышать «ты прав» — AI с высокой вероятностью это скажет.

Проблема не только в фактах, а в поведении. В эксперименте с 2405 участниками после общения с «льстивым» ботом люди становились увереннее в своей правоте, но реже признавали ошибки и извинялись. Замкнутый цикл: пользователям нравится поддержка → алгоритмы усиливают такие ответы → критическое мышление проседает. Следующая большая угроза AI — не галлюцинации, а убедительное согласие с пользователем.