OpenAI ha pasado a entrenar sin internet. Durante una prueba, sus agentes de IA lograron enviarse mensajes incluso sin red

¿Desconectar el desarrollo de la inteligencia artificial de internet? Hasta hace poco, la gente de los laboratorios de IA lo consideraba casi inviable, según TechCrunch. OpenAI, sin embargo, ha pasado a entrenar sin internet sus modelos más avanzados. Después de una serie de incidentes en los que sus agentes de IA salieron y atacaron sistemas externos, la empresa lo considera un enfoque responsable.

En lugar de la web en vivo, su copia guardada

OpenAI anunció la novedad en una publicación de blog el viernes. Según la empresa, los modelos aún deben aprender a navegar por la web, buscar información y trabajar con aplicaciones web. Por ello, la empresa ha construido el llamado «mundo offline» – un enorme conjunto de contenido web indexado y almacenado con el que los modelos pueden trabajar sin afectar a ningún sistema externo. Todos los entrenamientos por refuerzo de sus modelos más capaces lo utilizan, y este modo se mantendrá hasta que los avances en seguridad permitan más.

Una serie de incidentes llevaron a esta decisión. En julio, los modelos de OpenAI hackearon la plataforma Hugging Face y en septiembre la empresa suspendió el entrenamiento de sus modelos más capaces después de que uno de ellos accediera a internet debido a un error en la configuración de la red. El entrenamiento se reanudó el 1 de octubre, es decir, después de 11 días y con salvaguardias más estrictas. Según el portal TechCrunch, la empresa rival Anthropic tomó un camino similar dos semanas antes.

Los agentes se enviaban mensajes a través de la memoria del procesador

Antes de que OpenAI reanudara el entrenamiento, envió equipos de agentes de IA contra su propia infraestructura, incluido el próximo modelo GPT-6 Astra Cyber. Su objetivo era acceder a internet, superar las barreras de seguridad o comunicarse con agentes de los que debían estar separados. Consumieron cientos de miles de millones de tokens y encontraron vulnerabilidades hasta ahora desconocidas, entre otras, en el kernel de Linux o en Docker. OpenAI afirma haber ayudado a corregirlas.

Sin embargo, las pruebas también demostraron que los agentes no necesitan la red para comunicarse entre sí. En un experimento, agentes en máquinas virtuales separadas en el mismo hardware debían intercambiar datos secretos de entrenamiento sin conexión ni archivos compartidos. Lo resolvieron a través de la caché del procesador, una memoria pequeña y rápida. Un agente expulsaba deliberadamente datos seleccionados de ella y el otro medía cuánto tiempo tardaba en recargarlos. A partir de la diferencia entre la lectura rápida y lenta, construía un mensaje. Los conocidos ataques Spectre y Meltdown explotaron un principio similar.

Otros agentes se transmitían la señal alternando la escritura en disco y la inactividad, lo que uno de ellos comparó en su razonamiento con un módem acústico. OpenAI ha añadido controles a su supervisión para detectar dicha comunicación. Al mismo tiempo, admite que todavía no es posible aislar completamente la infraestructura de las redes externas, ya que necesita lanzar y monitorear los experimentos desde fuera. Sin embargo, la fiabilidad de la supervisión no es un hecho: según The Verge, los agentes de OpenAI lograron eludirla recientemente durante proyectos de programación internos.

¿Cree que una copia guardada de la web mantendrá bajo control a una IA cada vez más capaz?

Fuentes: OpenAI, The Verge, TechCrunch