Anthropic нашла в Claude скрытое «пространство раздумий»
Anthropic, компания-разработчик Claude, построила инструмент под названием «Jacobian lens» (J-lens, «якобианова линза») и с его помощью получила самый ясный на сегодня взгляд на то, что происходит внутри большой языковой модели, пока та отвечает на вопросы или выполняет задачи. С помощью J-lens исследователи обнаружили внутри флагманской модели Claude скрытую область, которую назвали «J-space».
J-space содержит слова, связанные с ответом, над которым модель «работает» в данный момент, но которые в итоге могут и не попасть в финальный текст. Иначе говоря, если бы Claude была человеком (а она им не является, специально подчёркивают авторы), эти скрытые слова можно было бы назвать тем, «что у неё на уме», ещё до того, как она «заговорит». По словам журналиста MIT Technology Review Уилла Дугласа Хивена, результаты такого заглядывания внутрь модели оказались разными, от вполне обыденных до откровенно тревожных; подробный разбор находок опубликован в отдельной статье издания, на которую ссылается материал.
Эта новость, главный сюжет ежедневной рассылки MIT Technology Review «The Download» от 10 июля 2026 года. В том же выпуске упоминается, что в тот же день OpenAI представила своё долгожданное «супер-приложение» ChatGPT Work, объединяющее чат-бота, инструмент для написания кода и новые модели, релиз совпал с выходом линейки GPT-5.6.
Ключевые факты
- Anthropic построила инструмент «Jacobian lens» (J-lens) для анализа внутренних процессов модели Claude
- С его помощью внутри Claude обнаружена скрытая область «J-space»
- J-space содержит слова, связанные с готовящимся ответом модели, которые она может в итоге не произнести
- Авторы сравнивают это с тем, «что у модели на уме», хотя прямо оговаривают: Claude, не человек
- Результаты исследования, по словам авторов материала, варьируются от обыденных до тревожных
Почему это важно
Большие языковые модели остаются во многом «чёрным ящиком»: непонятно, что именно происходит внутри них между вопросом и ответом. Инструмент J-lens и находка J-space, шаг к тому, чтобы заглянуть под капот флагманской модели Claude и увидеть, какие варианты ответа модель «рассматривала», прежде чем выдать финальный текст. Это напрямую связано с задачей интерпретируемости (interpretability), одним из ключевых направлений, которыми занимается Anthropic в контексте безопасности ИИ.
Кому это важно
В первую очередь, исследователям интерпретируемости и безопасности ИИ, а также инженерам самой Anthropic, которые разрабатывают методы контроля за поведением моделей. Материал интересен и более широкой аудитории, которая следит за тем, насколько предсказуемо и прозрачно работают системы вроде Claude, особенно на фоне растущего использования таких моделей в бизнесе и разработке.
Как это применить
Инструменты вроде J-lens в перспективе могут использоваться для аудита моделей: например, для проверки, не «обдумывает» ли модель ответы, которые расходятся с тем, что она в итоге озвучивает, это потенциально полезно при отладке и оценке надёжности ИИ-систем перед внедрением в продукты. Для рядового пользователя Claude практического применения на данный момент нет, это исследовательская, а не продуктовая новость.
Можно ли доверять
Источник, ежедневная рассылка MIT Technology Review «The Download», уважаемого издания о технологиях; материал ссылается на отдельную полную статью того же издания с разбором находок Anthropic. Однако сам фрагмент, доступный здесь, краткий тизер рассылки, а не полный текст исследования: конкретных цифр, методики экспериментов или технических деталей J-lens в нём нет, они содержатся в статье, на которую даётся ссылка.
Риски и подводные камни
Авторы сами предостерегают от очеловечивания находки: сравнение J-space с тем, «что у модели на уме», метафора, а не буквальное описание сознания или намерений; Claude не является человеком и не «думает» в человеческом смысле. Стоит также учитывать, что материал, часть новостной рассылки-дайджеста, а не оригинальная научная публикация, поэтому детали и оговорки самого исследования Anthropic здесь неизбежно упрощены.