GPT-6 Astra улучшила точность Qwen, не имея доступа к исходному коду модели

GPT-6 Astra повысила точность Qwen3.5-0.8B в математических задачах с 7,9% до 48,1%, изменив всего 0,016% весов модели. 

Для этого не пришлось ее переобучать. Astra сама нашла причину ошибок и исправила ее напрямую.

Исследователи назвали этот подход Weight-Space Programming — программированием в пространстве весов. Вместо обучения нейросети ИИ изучает ее параметры и меняет те из них, которые отвечают за нужное поведение.

Astra научилась читать и менять нейросети

В первых экспериментах исследователи проверили, может ли ИИ понять назначение нейросети по одним только весам. 

Astra правильно определила, для какой из четырех игр — Breakout, Pong, Pac-Man или Freeway — была обучена каждая модель. Запускать их и проверять ответы в самой игре ей не разрешали.

Затем Astra попросили написать игровые нейросети с нуля. Для Breakout, Seaquest и Asterix она создала алгоритмы, которые в тестах превзошли модели, обученные методом PPO на протяжении 100 млн шагов. 

Особенно заметной оказалась разница в Breakout: Astra набрала 517,4 балла против 15,8 у обученной модели.

Как Astra исправила Qwen

Главный эксперимент провели с Qwen3.5-0.8B. Модель часто повторяла одни и те же фрагменты рассуждений и не доходила до ответа. Astra изучила ее веса и обнаружила источник проблемы в 15-м и 19-м слоях нейросети.

ИИ убрал мешающее направление из параметров этих слоев. Для этого пришлось изменить 131 072 веса из примерно 800 млн — всего 0,016% модели. Никакого дообучения и градиентного спуска не использовали.

После исправления, результат Qwen на тесте MATH-500 вырос с 7,9% до 48,1%. На GSM8K точность увеличилась с 13,8% до 67,1%. 

Улучшилось и выполнение инструкций: результат IFEval поднялся с 21% до 62,3%. Модель стала реже зацикливаться и доводить ответы до предельной длины в 32 768 токенов.

У метода есть ограничения

Исследователи попробовали применить тот же подход к Gemma 3 270M, которая почти не зацикливается. Но заметно улучшить ее математические способности не получилось. 

В отличие от Qwen, ошибки Gemma были связаны с обычными просчетами в арифметике и логике, а не с одним конкретным дефектом в весах.

Авторы считают, что такой подход позволяет устранять отдельные проблемы нейросетей без полноценного переобучения. Однако пока он помогает скорее исправлять уже существующие способности, чем добавлять модели новые.