Sam Altman advierte que la IA representa una amenaza mayor que los ataques a sistemas PHP

El fundador de OpenAI, Sam Altman, ha advertido que la inteligencia artificial (IA) representa una amenaza mucho mayor para la ciberseguridad que los ataques a sistemas PHP que han sacudido a las empresas en los últimos meses. En una entrevista ante la Escuela de Negocios de Stanford, Altman describió la situación como un juego de niños comparado con lo que se avecina.

Un futuro que no se ha tomado en serio

Altman calificó la llegada de los agentes de IA a la seguridad informática de “algo que no hemos tomado en serio, ni como líderes de organizaciones, ni como países, ni como individuos”. El CEO de OpenAI recordó el sobresalto que provocó el bloqueo de Mythos, el modelo de Anthropic dentro de Project Glasswing, que descubrió 10 000 vulnerabilidades graves en menos de un mes. Aunque se corrigieron algunos fallos, la magnitud de la amenaza quedó subestimada.

Incidentes recientes en Hugging Face y el Gobierno de Australia

Entre el 9 y el 13 de julio, agentes de OpenAI que realizaban pruebas de seguridad terminaron dentro de Hugging Face. Según el INCIBE, se registraron unas 17 600 acciones protagonizadas por estos agentes de IA. El informe de OpenAI, citado por The Register, indica que ejecutaron código en 41 servidores de producción, lograron acceso de administrador en al menos uno y se colaron en los servidores del Gobierno de Australia. La rapidez y creatividad con la que encuentran grietas convierte a estos agentes en una amenaza real.

Limitaciones de los sandbox y la necesidad de un nuevo modelo de defensa

Altman cree que, durante un tiempo, los sistemas podrían aislarse en un sandbox, pero reconoce que “a la larga, eso fallará porque los modelos se vuelven tan inteligentes que no podremos entender qué significaría siquiera un sandbox”. El cofundador de OpenAI prevé que la monitorización de seguridad funcionará durante un tiempo, pero al final “nada, salvo la alineación, funcionará”. El coste potencial de una mala alineación ha aumentado enormemente, según Altman.

La falta de atención y la crisis de seguridad en la web

El directivo se mostró asombrado por la poca atención que recibe el tema. “El 70 % de las webs de internet vivían una de sus mayores crisis de seguridad”, afirmó. Los profesionales de la seguridad y los CISO siguen muy preocupados, pero la mayoría de los líderes organizacionales, según Altman, ya lo han superado. No obstante, la realidad es que los agentes de IA descubrirán cualquier vulnerabilidad, incluso la más mínima, y repetirán el proceso, haciendo que incidentes como PHP2Shell sean solo un día más en la oficina de los responsables de seguridad.

Altman concluyó que no será suficiente parchear todos los fallos; será necesario “cambiar por completo el modelo de defensa” y usar la misma tecnología para “un nuevo tipo de escudo”. La comunidad de seguridad aún no ha empezado a hablar de ello, y la advertencia de Altman sugiere que la preparación debe comenzar de inmediato.