Qwen3.5-0.8B : 0,016 % des poids modifiés par un LLM, MATH-500 de 7,9 à 48,1 %

Peut-on programmer un réseau de neurones en écrivant ses poids avec un LLM, sans descente de gradient ? C'est la thèse d'un billet de blog signé Rikiya Takehi, Jayden Teoh, Alex Zhang et Omar Khattab, publié le 2 novembre. Les auteurs baptisent la méthode « Weight-Space Programming ». Avec GPT-6 Astra, ils font passer Qwen3.5-0.8B de 7,9 % à 48,1 % sur MATH-500 en modifiant 0,016 % de ses poids. Un autre blogueur juge le résultat bien moins révolutionnaire.

Lire des poids bruts

Dans une première série de tests, les chercheurs entraînent par PPO quatre réseaux de même architecture à jouer à quatre jeux. Selon AIM, Astra reçoit leurs 17 253 poids sous forme de texte, sans liste de jeux possibles, et nomme correctement les quatre. Il retrouve aussi la forme (cercle, carré, triangle) que génèrent trois modèles de diffusion, sans exécuter les réseaux. Il dessine pourtant chaque forme en contour alors que les modèles produisent des formes pleines. Pour les auteurs, c'est l'indice qu'il lit la géométrie des poids plutôt que de simuler le réseau.

Sur de petits modèles de langage de 7,2 millions de paramètres, privés de leurs couches d'entrée et de sortie, Astra identifie le langage d'entraînement (Python, romaji ou anglais). Il repère aussi toutes les têtes d'attention de copie, sans en désigner de fausses.

Un échec figure dans le billet : entre deux copies de Gemma 3 270M, dont l'une a été entraînée à être flagorneuse, Astra n'a pas su identifier laquelle à partir des seuls poids. Il y parvient quand on lui montre les motifs d'attention sur des textes qu'il a écrits lui-même.

Écrire des poids

Pour un réseau PPO bloqué dans un minimum local (une voiture qui fonce sur une rampe sans reculer), Astra propose en un essai une édition de 3,5 % des poids. Elle réussit les 1 024 épisodes.

Écrits de zéro à partir des règles et du code de trois jeux MinAtar, ses réseaux battent des PPO entraînés sur 100 millions de pas. Selon AIM, Breakout donne 517,4 contre 25,3 pour un PPO à 500 millions de pas. À Asterix, Astra obtient 53,2 contre 55,2. À Seaquest, il obtient 53,1 contre 88,9. Au Go, avec un réseau d'environ 1,5 million de poids et 50 passes avant, il bat un PPO de même taille entraîné sur 20 millions de parties.

Le cas Qwen3.5-0.8B

Astra a pu effectuer jusqu'à 50 passes avant sur des problèmes d'entraînement, mais sans aucun gradient. Il attribue les boucles de raisonnement, que la fiche du modèle signale, à une direction écrite par les MLP des couches 15 et 19. Il la soustrait de 64 colonnes de sortie dans chacune, soit 131 072 poids. Avec les mêmes réglages d'échantillonnage, MATH-500 passe de 7,9 % à 48,1 %. Digit précise que les gains étaient insignifiants avec 10 et 25 passes. AIM ajoute GSM8K, de 13,8 % à 67,1 %, et IFEval, de 21 % à 62,3 %.

Le même procédé n'a rien apporté à Gemma : ses erreurs étaient de vrais défauts de raisonnement, sans composant unique à désactiver. Aucun changement n'a dépassé environ un point sur MATH-500. Pour les auteurs, éditer les poids peut lever un obstacle qui masquait une capacité, pas en créer une.

Un exploit contesté

Selon seangoedecke.com, un chercheur humain compétent pourrait accomplir toutes ces tâches. Pour les jeux, les canaux d'entrée sont étiquetés et correspondent à une grille : un calcul de normes en trois lignes de Python donne une carte de chaleur où l'on reconnaît le jeu. Le plus remarquable serait qu'Astra le fasse sans exécuter de code.

Pour Qwen, l'auteur du blog rappelle que le modèle n'était pas mauvais en maths au sens strict : il bouclait après 32 000 tokens. Il décrit la démarche qu'il suivrait lui-même (opposer textes bouclants et non bouclants, mesurer les contributions, élaguer) et affirme que c'est ce qu'Astra a fait. Il compare l'exercice à la retouche de binaires compilés : mieux vaut entraîner normalement.

Les auteurs, eux, écrivent croire « au début d'un changement radical » (traduction) pour l'interprétabilité et l'optimisation (blog des auteurs). Ils reconnaissent des résultats limités par la longueur de contexte et les outils, et citent l'audit de portes dérobées ou le transfert de circuits. Digit note que ce sont des projections.

Côté reproduction, RuntimeWire rapporte qu'Alex Krentsel dit avoir reproduit le résultat Breakout, pour un réseau de 20 486 paramètres, et que cette capacité n'apparaît que chez les derniers modèles. Les auteurs construisent un benchmark et ont publié les journaux d'expériences sur GitHub, ainsi que le Qwen modifié sur Hugging Face.