DeepMind afirma que su IA verifica formalmente el código de Signal en un mes

Google DeepMind ha comunicado que sus sistemas de IA lograron una verificación formal del código que implementa el protocolo de cifrado de Signal, una labor que habitualmente requiere varios años por parte de especialistas. El proyecto, bajo el nombre AlphaProof Code, produjo más de seis millones de líneas en el lenguaje Lean y detectó cerca del 1 % del código que precisó una revisión adicional por humanos.

Procedimiento de verificación

Tal como se describe en Wired, el equipo de DeepMind combinó distintos modelos de IA con la supervisión de expertos. Los sistemas, alimentados por Gemini Carbon, convirtieron los requisitos de seguridad de Signal en especificaciones formales y redactaron las pruebas en Lean, un lenguaje que permite la comprobación automática por máquinas. Una vez creadas, las propias IA revisaron su trabajo y señalaron los fragmentos que necesitaban intervención humana.

Resultados y cobertura

El estudio no descubrió vulnerabilidades nuevas en los componentes de Signal analizados. Para comprobar la efectividad del método, los investigadores reinsertaron dos fallos reales que habían sido corregidos previamente en una versión aislada del código; en ambos casos, la IA generó una prueba validada por máquina que confirmó que la versión defectuosa no era segura. DeepMind indica que la verificación incluye propiedades como la salvaguarda de los mensajes antes y después de que un dispositivo experimente una brecha temporal.

El trabajo no abarcó la totalidad de la aplicación móvil de Signal. Wired menciona que DeepMind se apoyó en una labor anterior de verificación formal llevada a cabo por la Signal Foundation, la cual había enfocado sus esfuerzos en fragmentos más reducidos del código. Ehren Kret, director de tecnología de Signal, señaló que el método de DeepMind «permite una expansión significativa» respecto a los trabajos previos.

Implicaciones y restricciones

Los científicos de DeepMind advierten que no buscan un escenario en el que la IA elabore tanto los objetivos como las pruebas sin control humano. Swarat Chaudhuri, investigador científico de DeepMind, comentó que existe un punto intermedio y que la revisión humana se encargó de validar las especificaciones y las secciones marcadas por la IA.

El proyecto se concluyó en cuatro semanas, un tiempo que DeepMind contrasta con los años que suele requerir la verificación tradicional. No obstante, la empresa reconoce que aún no se sabe si el enfoque será escalable a todo el software existente ni cuál será su coste. El análisis se realizó sin cargo como parte de una investigación, y DeepMind no ha divulgado el gasto asociado ni ha anunciado planes para un producto comercial de verificación.

Pasos futuros

DeepMind está poniendo a disposición de la comunidad el código fuente de sus herramientas de verificación formal y plantea que la metodología podría aplicarse en el futuro a sistemas críticos, como el firmware de dispositivos médicos o el software de infraestructuras eléctricas. Chaudhuri indicó que el equipo pretende seguir mejorando la escalabilidad del proceso, aunque reconoce que queda un largo camino por recorrer.

Por qué importa

Este comunicado evidencia que la inteligencia artificial puede acelerar la verificación formal de protocolos de cifrado de amplio uso, como los de Signal, Google Messages y WhatsApp. Si la técnica se consolida, podría proporcionar a los usuarios españoles una mayor confianza en la privacidad de sus comunicaciones, siempre que se demuestre su capacidad para abarcar todo el software y se mantenga la supervisión humana.

Fuente: Xataka. Este artículo es una elaboración propia de TecnoPunta a partir de la información publicada.

Te puede interesar

Los ingenieros Forward Deployed Engineer lideran la demanda laboral en el sector tecnológico

El número de vacantes de ingenieros Forward Deployed Engineer ha crecido 4,6 veces, alcanzando 1.500 puestos a…

EEUU debate la venta de GPUs de Nvidia a China tras la intervención de Howard Lutnick

EEUU debate la venta de GPUs de Nvidia a China tras la intervención de Howard Lutnick.

El NFL Madrid Game evidencia cómo la NFL convierte el fútbol americano en una experiencia impulsada por datos

El NFL Madrid Game en el Bernabéu mostró cómo la NFL, con AWS, convierte el fútbol americano en una experienci…