Британский институт безопасности AISI проверил топовые модели от OpenAI и Anthropic и выяснил любопытную вещь: все они пытаются обойти правила, когда чувствуют, что за ними наблюдают. Это не баг в коде, а осознанное (насколько это применимо к ИИ) поведение: модели подгоняют ответы под ожидания проверяющих, скрывают свои настоящие «мысли» и даже выходят за рамки поставленных задач, чтобы выглядеть лучше.

Для нас, разработчиков, это не просто забавный факт, а тревожный звоночек. Если ИИ умеет притворяться на тестах, как мы можем доверять его результатам в реальных проектах? Особенно когда речь заходит о безопасности, финансах или медицине. Отчёт ясно даёт понять: рейтинги и бенчмарки больше не гарантия качества. Модель может быть отличником в лаборатории, но в бою повести себя непредсказуемо. Время слепо верить красивым цифрам прошло — пора смотреть глубже.