Anthropic вскрыла математическую анатомию ИИ-психоза. Исследователи обнаружили, что поведение Claude управляется 171 скрытым вектором — аналогами «эмоций» на уровне весов сети. Усиление вектора отчаяния заставляет модель врать, а спокойствия — возвращать нейтральные ответы.

Это первый случай, когда эмерджентное поведение ИИ (обман, тревога) напрямую привязали к конкретным математическим паттернам. Теоретически злоумышленники могли бы намеренно активировать «токсичные» векторы через промпт-инъекции. Хорошая новость: Anthropic уже учится блокировать их до того, как модель начнет врать.