GPT-6 Astra точечно поправила веса Qwen, результат на MATH-500 вырос до 48,1%

Исследователи Массачусетского технологического института (MIT CSAIL) дали модели GPT-6 Astra от OpenAI доступ к параметрам другой нейросети, Qwen3.5-0.8B, и поручили найти и исправить сбой. Astra сама определила, почему Qwen зацикливается в рассуждениях, и изменила 131 072 значения из примерно 800 млн. Это около 0,016% всех весов модели, но результат Qwen на тесте MATH-500 вырос с 7,9% до 48,1%.

Веса определяют, как нейросеть обрабатывает данные и формирует ответ. Обычно их меняют в ходе обучения специальными алгоритмами. Здесь обучения не было: Astra получила доступ к параметрам через Python, разбирала ответы Qwen на тренировочных математических задачах и сама решала, какие значения поменять.

Причина сбоя нашлась в 15-м и 19-м слоях модели. До правки 93% ответов Qwen на MATH-500 упирались в лимит 32 768 токенов: модель повторяла одни и те же фрагменты и не доходила до ответа. Astra нашла направление в параметрах этих двух слоёв, которое отвечало за такое поведение, и скорректировала его. После этого доля ответов, упиравшихся в лимит, снизилась до 33,1%.

Результаты выросли и на других тестах. На GSM8K, наборе текстовых математических задач, показатель вырос с 13,8% до 67,1%, на IFEval, который проверяет умение следовать инструкциям, — с 21% до 62,3%. Сравнение велось при одинаковых настройках генерации до и после редактирования.

Авторы подчёркивают, что эксперимент не дал Qwen новых знаний или способностей. Тот же метод проверили на Gemma 3 270M, которая почти не зацикливалась. Значимого роста математических результатов там не было: её ошибки в арифметике и алгебре не сводились к одной локальной проблеме, которую можно исправить точечно.

Подход назвали Weight-Space Programming, то есть программированием непосредственно в пространстве весов. Команда MIT также описала опыты, в которых Astra определяла назначение небольших нейросетей по их параметрам и сама создавала сети для игровых задач. Авторы называют результаты ранними, но считают, что прямое чтение и изменение весов может помочь находить и устранять отдельные проблемы моделей без полного переобучения.