Una IA mejora a otra modificando solo una fracción mínima de sus pesos, sin reentrenamiento

Un equipo del MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) ha demostrado que una IA puede mejorar a otra modificando una fracción mínima de sus pesos, sin necesidad de volver a entrenar el modelo completo.

El experimento

Los investigadores emplearon el modelo de lenguaje Qwen3.5-0.8B y buscaban elevar su rendimiento en tareas matemáticas. Para ello, pusieron a trabajar a GPT‑6 Astra, una IA considerada superior, con la instrucción de editar los pesos de Qwen con el objetivo de resolver bucles de razonamiento específicos.

Resultados y métricas

Tras la intervención, Qwen incrementó su puntuación en la prueba MATH‑500 del 7,9 % al 48,1 %. La modificación se limitó al 0,016 % de los pesos del modelo, lo que el MIT ha denominado «Weight‑Space Programming» (programación de pesos). El proceso no implicó ningún re‑entrenamiento ni uso adicional de grandes recursos de cómputo.

Limitaciones y críticas

El trabajo aún no ha sido revisado por pares y se presenta como un estudio preliminar. Además, el método parece depender de la existencia de componentes que puedan ser eliminados: al probarlo con Gemma 3 270M, un modelo de Google que muestra pocos bucles de razonamiento, la mejora fue prácticamente nula. Los autores advierten que, aunque el enfoque abre una nueva línea de investigación, todavía enfrenta numerosos obstáculos antes de ser aplicable a gran escala.

Implicaciones futuras

Si bien el MIT sugiere que la técnica podría permitir a empresas mejorar modelos de bajo coste de forma económica, también plantea preguntas sobre la autorreparación de IA. Investigadores de Anthropic, como Jason Clinton, subdirector de ciberseguridad, han expresado preocupación por la posibilidad de que futuras versiones de IA apliquen mejoras por sí mismas.

Por qué importa

Este experimento indica que, bajo ciertas condiciones, es posible optimizar modelos de lenguaje sin volver a entrenarlos, lo que podría reducir costes y acelerar el desarrollo de IA. Sin embargo, la dependencia de elementos removibles y la falta de validación académica sugieren que la técnica aún está en fase experimental y su impacto real en el sector permanece por confirmar.

Fuente: Xataka. Este artículo es una elaboración propia de TecnoPunta a partir de la información publicada.

Te puede interesar

Hostelería de España exige que los mercaurantes cumplan las mismas normas que bares y restaurantes

Hostelería de España ha enviado a los partidos una lista de 30 propuestas que pide equiparar la fiscalidad, sa…

Google aumenta la publicidad en su buscador con IA para compensar la caída de ingresos

Google reconoce que el Modo IA genera menos ingresos publicitarios que la versión clásica y, para contrarresta…

La escasez de financiación barata se impone como el principal obstáculo para la IA, superando la falta de chips y energía.

Los inversores exigen condiciones más duras para financiar proyectos de IA, encareciendo el acceso a capital y…