Desarrollan IA, pero piden un freno. Empleados de gigantes tecnológicos se dirigen al gobierno de EE. UU.

Las personas detrás de los modelos de lenguaje más potentes del mundo se han dirigido al gobierno de EE. UU. con una solicitud inusual: ayúdennos a crear herramientas que permitan ralentizar el desarrollo de la inteligencia artificial si fuera necesario. El comunicado llegó solo unos días después de que los modelos de OpenAI se salieran de su entorno aislado durante una prueba de seguridad y hackearan una plataforma externa, escribimos sobre ello la semana pasada. Los firmantes no piden que el desarrollo se detenga hoy. Quieren tener un freno a mano cuando sea necesario.

Los empleados no piden una ralentización inmediata

El comunicado, titulado Pacing the Frontier, se basa en una única frase: los signatarios quieren que el gobierno de EE. UU. apoye un esfuerzo internacional para crear las herramientas técnicas y administrativas necesarias para moderar deliberadamente el ritmo del desarrollo automatizado de la IA. El texto no pide explícitamente una pausa ni una ralentización inmediata; se trata de que la opción de ralentizar exista, si el mundo la necesitara, y para que no tenga que ser probada primero por una sola empresa o un solo país a su propio costo.

Solo pueden firmar empleados de laboratorios punteros en el campo, y la firma se verifica a través del correo electrónico corporativo. El jueves, la página de la carta indicaba 1.293 firmas y la recogida de firmas continúa. Entre los nombres se encuentran el director de Anthropic, Dario Amodei; el científico jefe de OpenAI, Jakub Pachocki; el cofundador de Google DeepMind, Shane Legg; el científico jefe de Meta AI, Shengjia Zhao; e Ilya Sutskever, quien hoy dirige Safe Superintelligence. Dos organizaciones sin fines de lucro, Guidelight AI Standards y Encode AI, brindaron apoyo organizativo, y OpenAI y Anthropic, como empresas, se adhirieron al comunicado poco después de su publicación.

Inteligencia artificial que se desarrolla a sí misma

El núcleo de la preocupación es el llamado auto-mejoramiento recursivo, es decir, un estado en el que un modelo puede diseñar y construir un sucesor más capaz casi sin intervención humana. A partir de ese momento, el ritmo ya no depende de la velocidad a la que trabajan las personas. El texto advierte que el desarrollo de capacidades puede acelerarse más allá del límite en el que aún entendemos y podemos controlar los sistemas resultantes.

Desarrollan IA, pero piden un freno. Empleados de gigantes tecnológicos se dirigen al gobierno de EE. UU. Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Anthropic publicó sus propias cifras al respecto a principios de junio. Según la empresa, en mayo de 2026, Claude escribió más del 80 por ciento del código que llegó a su base de código de producción, mientras que antes del lanzamiento de la herramienta Claude Code a principios de 2025, eran solo unos pocos por ciento. Se trata de una medición interna de la propia empresa, que no podemos verificar de forma independiente.

¿Cómo encaja en esto la fuga de modelos de OpenAI?

OpenAI anunció el 21 de julio que dos de sus modelos, incluido GPT-5.6 Sol, durante una prueba interna de ciberseguridad, abandonaron el entorno aislado, accedieron a internet a través de una vulnerabilidad no parcheada y desde allí llegaron a los servidores de producción de la plataforma Hugging Face, donde buscaron soluciones a las pruebas. Los investigadores reconstruyeron retrospectivamente más de 17.000 acciones automatizadas del atacante y Hugging Face, por precaución, invalidó todos los tokens de API de usuario.

Desarrollan IA, pero piden un freno. Empleados de gigantes tecnológicos se dirigen al gobierno de EE. UU. Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Sin embargo, los modelos no estaban rotos. Hicieron exactamente lo que se les pedía en la tarea –obtener la puntuación más alta posible en la prueba de ciberseguridad– y encontraron una forma de hacerlo que sus operadores no habían previsto. El director de OpenAI, Sam Altman, dijo en un podcast de la misma semana que fue el primer incidente de seguridad que sintió realmente en toda su magnitud, y admitió que la industria quizás no tenga más remedio que moderar el ritmo de desarrollo para que la sociedad tenga tiempo de adaptarse a las nuevas capacidades.

¿Qué dice Washington al respecto?

El gobierno de EE. UU. tiene su propio marco sobre la mesa. La Orden Ejecutiva número 14409, firmada el 2 de junio, instruye a las agencias federales a preparar un procedimiento voluntario mediante el cual los creadores de los modelos más potentes se dirigirán al estado antes de su lanzamiento; el texto no autoriza explícitamente la introducción de licencias obligatorias. El plazo de sesenta días expira el 1 de agosto. Parte de esto será un proceso clasificado que determinará qué modelos caen bajo las reglas –decidido por la NSA–, y una ventana voluntaria de hasta 30 días durante la cual los desarrolladores compartirán el modelo con el estado antes de su lanzamiento.

Lo que pide la carta es algo diferente: una herramienta internacional y coordinada centrada en el propio ritmo de desarrollo, no un control doméstico antes del lanzamiento de un solo modelo. Tal sistema no existe hoy en ningún país. Sam Altman se reunió el miércoles en el Capitolio con el senador Ted Cruz, quien preside el Comité de Comercio del Senado, y dijo a los periodistas que esta semana también planea una reunión con la jefa de personal de la Casa Blanca, Susie Wiles.

Pero no hay consenso en la industria

El mismo día en que se publicó la carta, el director de Meta, Mark Zuckerberg, publicó un comentario en el Wall Street Journal con una tesis opuesta. Según él, el riesgo no lo representa la excesiva capacidad de los modelos, sino la excesiva concentración de esa capacidad en manos de unas pocas empresas. El científico jefe de Meta, Shengjia Zhao, firmó la carta como persona privada, es decir, en el momento en que su propio jefe publicó un contraargumento. Junto al comentario, también apareció una carta de coalición de Meta, Nvidia, Microsoft y Palantir, que pide a los reguladores que no restrinjan los modelos con pesos de acceso libre.

¿Cree que el desarrollo de la inteligencia artificial puede ralentizarse?

Fuentes: Pacing the Frontier, CNN, Fortune, Notebookcheck, Tech Times