GPT-6 Astra улучшила нейросеть правкой весов

Исследователи MIT показали, что GPT-6 Astra от OpenAI может анализировать и целенаправленно менять веса других ИИ-моделей без традиционного обучения.

Подход назвали Weight-Space Programming. В разных опытах Astra либо читала списки весов напрямую, либо писала код на Python для их анализа и изменения. В части экспериментов она также получала результаты пробных запусков нейросети.

По одним лишь весам Astra определяла, для какой из четырёх компьютерных игр обучена нейросеть, какие базовые формы создаёт генератор изображений и на каком языке обучали небольшие языковые модели. Данные обучения и запуск моделей ей были недоступны. При распознавании фигур Astra иногда путала закрашенные формы с контурами.

Astra также создала веса для нейросетей, играющих в три простые компьютерные игры, на основе правил и исходного кода игр, без традиционного обучения. В Breakout её сеть набрала в среднем 517 очков против 25 у сети, обученной на 500 миллионах игровых шагов. В Seaquest и Asterix сети Astra уступили сетям с таким же объёмом обучения. При этом во всех трёх играх сети Astra обошли сети после 100 миллионов игровых шагов обучения.

Для улучшения Qwen3.5-0.8B Astra писала код на Python, меняла веса и проверяла результат на пробных задачах в течение 50 циклов. Результат оценивали на отдельных задачах, которых Astra не видела. После изменения 0,016% весов точность на MATH-500 выросла с 7,9 до 48,1%, а показатель следования инструкциям — с 21 до 62%. Astra выявила зацикливание ответов Qwen и внесла правки, но полностью устранить проблему не удалось: треть ответов всё ещё достигала предельной длины против 93% до правки. На Gemma 3 270M, которая редко зацикливалась, измеримых улучшений получить не удалось.

Ранее по теме: Китайские ИИ-разработчики использовали GPT-6 Astra для обучения моделей

Источник: The Decoder