El gobierno estadounidense ordenó apagar Claude Fable 5. Argumenta seguridad nacional

Anthropic tuvo que deshabilitar su modelo de lenguaje más potente de la noche a la mañana. Detrás de esto está una directiva del gobierno estadounidense basada en la seguridad nacional. Sin embargo, la empresa presentó el modelo Claude Fable 5 apenas el 10 de junio, por lo que apenas habían pasado dos días desde su lanzamiento.

A Anthropic no le quedó más remedio que apagar el modelo por completo

Anthropic en su declaración afirma que recibió la directiva el 12 de junio a las 17:21 hora de Washington (es decir, después de las once de la noche, hora nuestra). La orden se basa en las normas de exportación y exige suspender el acceso a los modelos Fable 5 y Mythos 5 para todos los ciudadanos extranjeros, tanto fuera de EE. UU. como dentro del país, incluidos los empleados extranjeros de la propia empresa. En la práctica, esto significó que Anthropic tuvo que apagar ambos modelos para todos los clientes para cumplir con la norma. Los demás modelos de la compañía, según su declaración, permanecen disponibles sin cambios.

Disputa sobre el supuesto «jailbreak» de Claude Fable 5

Según Anthropic, el gobierno justificó la medida alegando que se había enterado de un método para eludir las barreras de seguridad del modelo, es decir, para «jailbreakearlo». Sin embargo, la directiva no contiene detalles de seguridad específicos y, según la empresa, las pruebas se presentaron solo verbalmente. La técnica descrita consiste en que el usuario presenta al modelo un código fuente específico y le pide que corrija errores de software. Anthropic afirma que se trata de una vulnerabilidad limitada, no universal, que además ofrecen modelos de la competencia.

El gobierno estadounidense ordenó apagar Claude Fable 5. Argumenta seguridad nacional Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Cómo se defiende Anthropic

La empresa no está de acuerdo con la suspensión. Argumenta que retirar de la operación un modelo comercial utilizado por cientos de millones de personas debido a una vulnerabilidad limitada es desproporcionado, y que si se aplicara el mismo criterio a toda la industria, prácticamente detendría el despliegue de todos los nuevos modelos. Además, según Anthropic, los mecanismos de protección de Fable 5 son más efectivos que los de cualquier modelo implementado anteriormente y nadie ha encontrado aún una forma universal de eludirlos.

Anthropic declaró que respeta la orden y que está trabajando para restaurar el acceso. Prometió publicar más detalles en un plazo de 24 horas desde su anuncio. Aún no está claro cómo abordarán el asunto las autoridades reguladoras y si los modelos volverán a estar disponibles para los usuarios.

¿Debería tener el gobierno la autoridad para ordenar el apagado de un modelo comercial de inteligencia artificial?

Fuentes: Anthropic, BBC News