Исследователи Anthropic обнаружили внутри своей ИИ-модели Claude необычную структуру, которая напоминает один из механизмов человеческого мышления.
Ученые назвали ее J-space. Это внутреннее «рабочее пространство», куда модель переносит важные концепции во время решения сложных задач.
Речь не идет о появлении сознания у искусственного интеллекта. Но открытие показывает, что крупные языковые модели могут самостоятельно формировать сложные внутренние механизмы обработки информации.
Читают прямо сейчас:
Что такое malware: виды вредоносного ПО и защита от него — чем трояны отличаются от вирусов и как работает вредоносное ПО изнутри
Что такое фишинг: виды фишинговых атак и как от них защититься — как злоумышленники маскируют вредоносные файлы под обычные архивы и ссылки
Что такое социальная инженерия и при чём тут кибербезопасность — как атаки через доверие работают лучше любого эксплойта
Что общего у Claude и человеческого мозга
Открытие связано с теорией глобального рабочего пространства (Global Workspace Theory), которую используют в нейронауке для объяснения работы сознательного мышления.
Согласно этой теории, мозг постоянно выполняет огромное количество автоматических процессов, но лишь часть информации попадает в особую область. И там человек может ее удерживать, анализировать и использовать для принятия решений.
Anthropic считает, что похожий принцип появился и внутри Claude. Когда модель сталкивается со сложной задачей, определенные понятия словно перемещаются в отдельное внутреннее пространство, где становятся доступны для разных частей системы.
Ученые научились заглядывать внутрь ИИ
Чтобы изучить этот механизм, команда Anthropic создала инструмент J-lens. Он позволяет исследователям анализировать внутренние процессы модели и отслеживать, какие концепции влияют на ее ответы в конкретный момент.
Во время экспериментов ученые просили Claude учитывать определенные идеи — например, справедливость. Затем они наблюдали, как модель удерживает эту информацию в своем внутреннем пространстве.
В других тестах исследователи меняли содержимое J-space и проверяли, как это влияет на результат. Например, при решении сложных задач изменение активных концепций могло привести к другому ответу модели.
Самое интересное — никто не создавал этот механизм
Главная особенность открытия в том, что J-space не был частью изначальной архитектуры Claude. Разработчики не программировали модель на создание такого «центра мыслей».
По словам Anthropic, эта структура появилась самостоятельно во время обучения. Вероятно, нейросеть пришла к такому способу организации информации, потому что он оказался эффективным для выполнения сложных задач.
Исследователи сравнивают это с конвергентной эволюцией в природе: когда разные организмы независимо приходят к похожим решениям, потому что они лучше подходят для выживания.
