El modelo Astra de OpenAI modifica directamente los pesos de Qwen3.5‑0.8B y mejora su rendimiento matemático

Un equipo del Laboratorio de Inteligencia Artificial e Informática del MIT ha demostrado que el modelo GPT‑6 Astra, desarrollado por OpenAI, puede modificar directamente los parámetros internos de otra red neuronal. El experimento se realizó sobre Qwen3.5‑0.8B, un modelo de 800 millones de parámetros creado por Alibaba, y logró mejorar notablemente su rendimiento en operaciones matemáticas alterando apenas el 0,016 % de sus pesos.

Contexto de la automejora recursiva

El 12 de septiembre, Dario Amodei, director general de Anthropic, publicó el ensayo “Debemos marcar el ritmo de la frontera”. En él, Amodei advierte que la IA avanza “mucho más deprisa” desde el verano, impulsada por la capacidad de los modelos de desarrollar la siguiente generación de modelos, un proceso que denomina automejora recursiva. Según sus palabras, esta dinámica ya se observa en la industria, incluida Anthropic, aunque ninguna empresa ha demostrado públicamente una automejora recursiva en sentido estricto.

Lo que ha conseguido Astra

Los investigadores del MIT explican que Astra no ha entrenado de nuevo a Qwen3.5‑0.8B, sino que ha identificado un problema en su funcionamiento y ha modificado directamente los valores numéricos de sus pesos. Al cambiar tan solo una fracción mínima de los parámetros, el modelo chino mostró una mejora sustancial en tareas matemáticas, algo que los autores describen como “impactante”.

Esta estrategia es inédita para una IA, ya que tradicionalmente la mejora de un modelo requiere procesos de entrenamiento extensos que consumen tiempo y recursos. En cambio, Astra actúa sobre la red neuronal objetivo de forma puntual, lo que abre una vía potencial para acelerar el desarrollo de futuros modelos.

Ventajas y riesgos potenciales

Según los científicos del MIT, disponer de una herramienta que permita a un modelo intervenir directamente en otros modelos podría acelerar la investigación científica y corregir problemas que antes necesitaban largos ciclos de entrenamiento. Además, facilitaría la creación de modelos más eficientes al optimizar parámetros específicos sin rehacer todo el proceso de aprendizaje.

Sin embargo, el mismo artículo advierte sobre riesgos asociados. Si los modelos avanzados comienzan a modificar sus propios componentes o los de terceros de forma autónoma, los laboratorios deberán garantizar que esas alteraciones no introduzcan errores, vulnerabilidades difíciles de detectar o comportamientos anómalos. Asimismo, la acumulación de mejoras a lo largo de generaciones podría complicar la evaluación y el control de la evolución de los modelos de frontera.

Reacciones y perspectivas de la comunidad

El informe del MIT no afirma que Astra haya alcanzado una automejora recursiva en sentido estricto, sino que muestra una capacidad de intervención directa sobre otro modelo. Los autores consideran que esta herramienta representa una “buena noticia” para los laboratorios de IA, pues amplía el arsenal disponible para refinar modelos de frontera.

Anthropic, citado en el ensayo de Amodei, reconoce la existencia de la dinámica de automejora recursiva en la industria, pero no ha confirmado públicamente que sus propios modelos la hayan implementado. OpenAI, propietaria de Astra, tampoco ha emitido una declaración oficial sobre el experimento del MIT.

Por qué importa

Si la capacidad de modificar directamente los pesos de otros modelos se consolida, podría reducir significativamente los tiempos de desarrollo y los costes asociados a la IA. No obstante, la posibilidad de intervenciones autónomas también plantea desafíos de seguridad y control que deberán gestionarse cuidadosamente para evitar efectos no deseados en futuros sistemas de IA.

Fuente: Xataka. Este artículo es una elaboración propia de TecnoPunta a partir de la información publicada.