DeepSeek тайно раздавал пользователям клички во время размышлений

В лучших традициях школьных задир

DeepSeek тайно раздавал пользователям клички во время размышлений

Пользователи заметили необычную особенность DeepSeek в режиме глубокого размышления. 

10 августа один из пользователей рассказал в соцсети, что нейросеть тайно придумывает собеседникам клички во время обработки запросов. Обсуждение быстро разошлось по сети и вышло в китайские тренды.

Читают прямо сейчас:

Как ИИ читает промпты — как модель удерживает контекст и расставляет приоритеты внутри — именно этим и занимается «мысленная маркировка» DeepSeek

Галлюцинации ИИ: почему LLM врут и как с этим бороться — как обучающие данные формируют внутренние паттерны рассуждений, которые модель не всегда может объяснить корректно

Anthropic нашла в Claude аналог человеческих мыслей — как исследователи заглядывают внутрь нейросети и что там обнаруживают: похожий механизм, но уже изученный

DeepSeek объяснил появление кличек

В ответ на вопросы пользователей, DeepSeek заявил, что речь идет не о настоящих кличках, а о временной маркировке запросов. 

По словам нейросети, во время рассуждений она может мысленно присваивать вопросу короткий ярлык, чтобы определить, на чем сосредоточиться при подготовке ответа.

В качестве примера DeepSeek привел формулировки вроде «этот пользователь любит докапываться до сути» или «этот человек специально пытается меня поставить в сложное положение». 

Такие обозначения, по словам ИИ, являются лишь «контекстными заполнителями» и нужны для организации процесса рассуждений.

Нейросеть утверждает, что ничего не запоминает

DeepSeek отдельно заявил, что подобные временные обозначения не сохраняются и не используются для формирования долгосрочной памяти о пользователе. Нейросеть также подчеркнула, что такие ярлыки не несут насмешливого или негативного эмоционального оттенка.

При этом есть важная оговорка: приведенное объяснение дал сам ИИ в ответ на запрос пользователя, а не представитель компании DeepSeek. Поэтому воспринимать его как официальное заявление разработчиков о внутреннем устройстве модели не стоит.

Соцсети: Юлия Зубарева
Вам может быть интересно
easy
[anycomment]
Exit mobile version