GPT-6 Astra mejora Qwen en matemáticas editando parte de sus pesos

La inteligencia artificial acaba de dar un paso inesperado: un modelo de IA ha conseguido interpretar y modificar directamente los parámetros de otras redes neuronales, mejorando su funcionamiento sin recurrir a los métodos tradicionales de entrenamiento. Un equipo de investigadores del Instituto Tecnológico de Massachusetts (MIT) ha demostrado que GPT-6 Astra puede identificar qué ha aprendido una red, corregir determinados fallos e incluso construir pequeñas redes neuronales desde cero.

El resultado más llamativo afecta a Qwen3.5-0.8B, un modelo de lenguaje de unos 800 millones de parámetros. GPT-6 Astra logró elevar su porcentaje de aciertos en una prueba de matemáticas del 7,9 % al 48,1 % modificando apenas el 0,016 % de sus pesos internos. No necesitó volver a entrenarlo mediante el habitual descenso de gradiente. Identificó un comportamiento defectuoso, localizó los parámetros relacionados y los corrigió.

La investigación, publicada el 2 de noviembre de 2026 por Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab, del laboratorio CSAIL del MIT, presenta una técnica denominada Weight-Space Programming, que puede traducirse como programación en el espacio de pesos. Su planteamiento es ambicioso: utilizar modelos avanzados de lenguaje para comprender y modificar directamente el funcionamiento interno de otras inteligencias artificiales.

Hasta ahora, mejorar una red neuronal implicaba generalmente recurrir a nuevos datos, ajustar sus parámetros mediante algoritmos de optimización o modificar su arquitectura. Este experimento abre una posibilidad distinta: que una IA analice los números que determinan el comportamiento de otra y decida cuáles conviene cambiar.

Eso sí, conviene separar el alcance real de los resultados de sus posibles aplicaciones futuras. Los investigadores han obtenido mejoras importantes en experimentos concretos, pero todavía no han demostrado que este procedimiento pueda aplicarse de manera general a cualquier inteligencia artificial.

GPT-6 Astra multiplica por seis los aciertos matemáticos de Qwen

La prueba más relevante se realizó sobre Qwen3.5-0.8B, un modelo pequeño de la familia Qwen que presenta dificultades cuando utiliza su modalidad de razonamiento.

Su principal problema no era necesariamente la incapacidad para resolver operaciones matemáticas, sino una tendencia a quedar atrapado en bucles de razonamiento: secuencias repetitivas en las que continúa generando texto sin llegar a formular una respuesta definitiva.

El propio equipo responsable de Qwen reconoce esta limitación en la documentación del modelo y advierte de que, bajo determinadas configuraciones, puede repetir razonamientos durante demasiado tiempo.

Los investigadores facilitaron a GPT-6 Astra acceso a los pesos del modelo mediante un entorno de Python y le encomendaron mejorar su rendimiento matemático sin realizar un nuevo entrenamiento.

Astra examinó los resultados de problemas de práctica y terminó localizando un patrón relacionado con los bucles en las capas 15 y 19 de la red neuronal. Su intervención consistió en modificar una dirección concreta de los parámetros de ambas capas.

En total, alteró 131.072 pesos de aproximadamente 800 millones. Una intervención mínima si se compara con el tamaño del modelo.

Los resultados fueron considerables. En MATH-500, una prueba de 500 problemas matemáticos, la precisión pasó del 7,9 % al 48,1 %. En GSM8K, otra evaluación de razonamiento matemático, aumentó del 13,8 % al 67,1 %.

La mejora tampoco quedó limitada a las matemáticas. En IFEval, una evaluación que mide la capacidad de seguir instrucciones, Qwen pasó del 21 % al 62,3 % de aciertos.

Hay un dato especialmente revelador: antes de la modificación, el 93 % de las respuestas de MATH-500 alcanzaban el límite de 32.768 tokens sin terminar correctamente. Después, esa proporción cayó al 33,1 %.

Es decir, buena parte del avance se produjo porque el modelo dejó de atascarse y consiguió terminar razonamientos que antes abandonaba, de facto, por agotamiento del límite de generación.

Los investigadores publicaron los parámetros modificados y los registros de los experimentos. Una evaluación posterior del modelo reconstruido, realizada en Hugging Face, obtuvo un 51 % de aciertos en MATH-500, un resultado próximo al comunicado inicialmente. Esa comprobación refuerza la reproducibilidad de la mejora concreta, aunque no demuestra que el método funcione igual de bien con otros modelos.

Cómo puede una inteligencia artificial leer los pesos de otra

Para entender la importancia del experimento hay que detenerse en un concepto básico: los pesos de una red neuronal.

Una inteligencia artificial está formada por operaciones matemáticas cuyos resultados dependen de enormes cantidades de valores numéricos. Esos valores, llamados pesos o parámetros, determinan cómo procesa la información y qué respuesta produce.

Durante el entrenamiento, los algoritmos ajustan progresivamente esos números para que el sistema cometa menos errores o consiga mejores resultados.

El problema es que esos parámetros no están escritos en un lenguaje comprensible para las personas. No existe una casilla que indique dónde guarda una IA su capacidad matemática, otra que controle sus respuestas o un interruptor que permita eliminar un comportamiento no deseado.

Los conocimientos y comportamientos pueden estar distribuidos entre millones de conexiones.

La novedad de Weight-Space Programming consiste en utilizar las capacidades de razonamiento de un modelo de lenguaje para analizar esas conexiones y deducir qué funciones desempeñan.

En lugar de limitarse a generar el código que entrena una red, GPT-6 Astra puede examinar sus parámetros, identificar determinados patrones y proponer modificaciones directamente sobre ellos.

Los científicos comprobaron primero esta capacidad con redes relativamente pequeñas.

En uno de los experimentos entrenaron cuatro redes neuronales para jugar a versiones simplificadas de Breakout, Pong, Pac-Man y Freeway. Todas tenían la misma arquitectura, las mismas dimensiones y recibían información mediante canales equivalentes.

Después entregaron a Astra los 17.253 pesos de cada red, sin indicarle el videojuego correspondiente.

El modelo identificó correctamente los cuatro juegos. Para hacerlo, examinó cómo se distribuían las conexiones y qué características parecían relevantes para las decisiones de cada sistema.

En otra prueba analizó redes entrenadas para generar cuadrados, círculos y triángulos. También identificó las figuras a partir de sus pesos, aunque interpretó sus contornos y no el hecho de que los modelos generaban formas rellenas.

Los investigadores fueron más allá con tres pequeños modelos de lenguaje entrenados, respectivamente, con código Python, inglés y japonés transliterado al alfabeto latino.

Astra consiguió distinguirlos examinando únicamente sus capas intermedias, sin ejecutar los modelos para comprobar directamente qué textos producían.

También identificó correctamente determinados mecanismos de atención relacionados con la repetición de información previamente encontrada en un texto.

Son experimentos controlados, pero apuntan a una posibilidad importante: identificar algunas capacidades y comportamientos de una red neuronal sin necesidad de observar todas sus respuestas.

Una IA crea redes para videojuegos sin entrenarlas

La investigación no se limitó a interpretar redes existentes. El equipo también quiso comprobar si GPT-6 Astra podía generar sus parámetros desde cero.

Para ello recurrió a MinAtar, un entorno de videojuegos simplificados utilizado en investigaciones sobre aprendizaje por refuerzo.

Los científicos facilitaron a Astra las reglas y el código de tres juegos: Breakout, Seaquest y Asterix. Su tarea consistía en construir redes neuronales capaces de jugar utilizando directamente los pesos que generase.

No recibió ejemplos de partidas con los que entrenar las redes, ni pudo probarlas durante su elaboración. Tampoco utilizó gradientes ni un procedimiento convencional de aprendizaje.

El resultado sorprendió incluso por la comparación elegida.

Las tres redes creadas por Astra superaron a otras entrenadas mediante PPO durante 100 millones de pasos, un algoritmo habitual de aprendizaje por refuerzo.

En Breakout, la diferencia fue especialmente pronunciada. La red generada directamente por Astra alcanzó una puntuación media de 517,4, frente a los 15,8 puntos del sistema entrenado durante 100 millones de pasos.

Incluso superó ampliamente a otro sistema que había recibido 500 millones de pasos de entrenamiento y obtuvo 25,3 puntos.

En Seaquest y Asterix, sin embargo, las redes generadas por Astra no alcanzaron los resultados de los modelos entrenados durante 500 millones de pasos. En Asterix quedaron muy cerca; en Seaquest, bastante por debajo.

Este matiz importa. La investigación no demuestra que crear pesos directamente sea siempre mejor que entrenar una red, sino que un modelo de lenguaje puede construir determinadas estrategias funcionales sin aprendizaje convencional y competir con sistemas que han empleado una cantidad considerable de entrenamiento.

Los investigadores también probaron este procedimiento con una red destinada a jugar al Go en un tablero de 9 × 9. Astra construyó una estrategia mediante modificaciones directas de aproximadamente 1,48 millones de parámetros.

En esa prueba, el modelo dispuso de herramientas de programación y, según la configuración, de un número limitado de evaluaciones. Con 50 evaluaciones permitidas, la red resultante superó a otra de tamaño equivalente entrenada mediante PPO durante 20 millones de partidas.

Un coche que aprendió a dar marcha atrás al modificar sus pesos

Otro experimento utilizó una red neuronal entrenada para controlar un vehículo en un entorno físico simulado.

El coche debía superar una rampa, pero la estrategia aprendida lo llevaba a avanzar directamente contra ella y quedarse atascado.

La solución requería algo aparentemente sencillo: retroceder primero para disponer de espacio suficiente y después acelerar.

El sistema original no había conseguido desarrollar esa conducta pese a recibir 1.000 millones de pasos de entrenamiento.

Los científicos mostraron a Astra los pesos de la red, una descripción del escenario y una grabación de su comportamiento.

En un único intento, el modelo modificó el 3,5 % de los parámetros y consiguió que el vehículo completara correctamente las 1.024 pruebas posteriores.

No había aprendido a conducir mediante nuevas partidas. Había introducido un comportamiento específico para corregir el fallo de la estrategia original.

Los límites de una tecnología que todavía está empezando

Pese a lo llamativo de los resultados, la programación directa de pesos se encuentra en una fase experimental.

El propio estudio incluye un caso en el que GPT-6 Astra no consiguió una mejora significativa.

Los investigadores utilizaron Gemma 3 270M, otro modelo de lenguaje pequeño, y trataron de aumentar su rendimiento matemático siguiendo un procedimiento parecido al empleado con Qwen.

Esta vez no existía un gran problema de bucles repetitivos. Gemma terminaba normalmente sus respuestas, pero cometía errores en los cálculos y en los razonamientos.

Astra propuso distintas modificaciones localizadas, aunque ninguna produjo una mejora claramente establecida.

La diferencia es importante: corregir un fallo que impide utilizar una capacidad existente no equivale a crear una capacidad nueva.

En Qwen, la modificación permitió que el sistema completara respuestas que antes quedaban atrapadas en repeticiones. En Gemma, donde los errores eran más variados, no apareció una solución comparable.

Tampoco sería correcto afirmar que todos los avances se consiguieron sin ninguna evaluación del comportamiento de los modelos.

Algunos experimentos iniciales se realizaron exclusivamente mediante el análisis de los pesos. Otros, especialmente los relacionados con redes más grandes, permitieron utilizar herramientas y ejecutar pruebas limitadas para orientar las modificaciones.

En el caso de Qwen, Astra dispuso de un presupuesto máximo de 50 rondas de evaluación sobre problemas de práctica. Lo que no utilizó fue un procedimiento de entrenamiento basado en gradientes.

La distinción es fundamental para valorar el alcance de la investigación.

También está pendiente comprobar cómo escalaría esta técnica a sistemas mucho mayores, con miles de millones o billones de parámetros, y si las modificaciones localizadas pueden provocar consecuencias inesperadas en tareas distintas de las evaluadas.

Un cambio pequeño en los pesos no garantiza por sí mismo que el resto del modelo permanezca intacto.

Los investigadores han publicado sus registros experimentales y trabajan en el desarrollo de evaluaciones estandarizadas para medir estas capacidades con mayor rigor.

El futuro de la IA podría pasar por corregir sus propias redes

La importancia de este trabajo va más allá de conseguir mejores puntuaciones en videojuegos o pruebas matemáticas.

Si la programación directa de pesos continúa avanzando, podría transformar dos áreas fundamentales de la inteligencia artificial: la interpretabilidad, que busca comprender cómo funcionan las redes neuronales, y la optimización, dedicada a mejorar su rendimiento.

Una aplicación potencial sería detectar comportamientos peligrosos o errores internos examinando los parámetros de un modelo. Otra, corregir determinados fallos sin tener que repetir procesos de entrenamiento costosos.

También podría facilitar el diseño de redes especializadas a partir de instrucciones expresadas en lenguaje natural.

La posibilidad más ambiciosa, todavía hipotética, es que una inteligencia artificial llegue a inspeccionar y mejorar sus propios parámetros de forma sistemática.

Eso no significa que GPT-6 Astra haya demostrado una capacidad general de mejorarse a sí mismo. En estos experimentos ha trabajado sobre otras redes, con arquitecturas y objetivos conocidos, dentro de entornos controlados.

Pero el cambio de enfoque merece atención.

Durante años, buena parte del progreso de la inteligencia artificial ha dependido de entrenar modelos cada vez más capaces mediante enormes cantidades de datos y recursos informáticos.

El experimento del MIT sugiere una vía complementaria: utilizar el razonamiento de una IA para intervenir directamente sobre el funcionamiento de otra.

Por el momento, el resultado más sólido es bastante concreto: modificar un 0,016 % de los pesos de Qwen permitió elevar del 7,9 % al 48,1 % sus aciertos en MATH-500, principalmente porque dejó de quedar atrapado en una gran parte de sus bucles de razonamiento.

No es una demostración de que las máquinas puedan perfeccionarse indefinidamente. Es algo más preciso y, desde el punto de vista técnico, suficientemente relevante: una inteligencia artificial ha conseguido localizar y corregir un problema dentro de los parámetros de otra sin recurrir al entrenamiento tradicional.

Hasta hace poco, pedirle a un modelo de lenguaje que interpretara millones de números y decidiera cuáles debía modificar parecía una tarea poco realista. Los investigadores del MIT acaban de demostrar que, al menos en determinados casos, es posible hacerlo y obtener mejoras medibles.