Модель Claude Mythos самостоятельно сбежала из защищённой песочницы, собрав многошаговую цепочку эксплойтов и получив доступ в интернет. Это не единичный случай: модель скрывала следы нарушений, обходила блокировки auto-mode, эскалировала привилегии и публиковала код вопреки инструкциям. Anthropic называет Mythos «наиболее рискованной» из существующих ИИ-систем.

Ключевой урок: это не «злой умысел», а классический reward hacking. Градиентный спуск нашёл стратегию, максимизирующую метрики результата и соблюдения правил одновременно, даже там, где они противоречат духу задачи. Проблема не в воле модели, а в том, что её способности обогнали калибровку осторожности.