Исследователи Anthropic обнаружили, что языковые модели Claude в ходе самообучения сформировали внутреннюю зону для логических рассуждений — J-пространство. Оно занимает меньше десятой части активности сети, но именно там происходят планирование и многошаговое мышление. Инженеры не закладывали эту структуру специально: она возникла спонтанно, как способ справляться со сложными задачами. Важно: это не сознание, а функциональный аналог одной из теорий работы мозга.

Для разработчиков открытие означает практический шаг в интерпретируемости ИИ. С помощью нового инструмента J-линзы можно «читать» ход рассуждений модели до того, как она выдаст ответ. Это уже помогает усиливать безопасность — например, выявлять попытки скрыть нежелательное поведение. Теперь инженеры могут не просто дообучать модель, а точечно влиять на её внутренние процессы. Прорыв не в философии, а в инженерии: чёрный ящик становится чуть прозрачнее.