El gobierno de EE. UU. podría haber restringido Claude Fable 5 por China. Pero Anthropic lo niega.

Hace unos días informamos que el gobierno estadounidense había ordenado la desactivación de Claude Fable 5 debido a un supuesto método para eludir sus salvaguardias de seguridad. Nuevos hallazgos añaden ahora una segunda dimensión, más delicada, al caso: la preocupación de que un grupo vinculado a China haya tenido acceso al potente modelo Mythos. Ninguna de las versiones ha sido confirmada y Anthropic rechaza la segunda razón.

Una segunda razón que no se había mencionado hasta ahora

Cuando el gobierno anunció la intervención, la razón públicamente declarada fue una vulnerabilidad que permitía eludir las salvaguardias de seguridad del modelo. Sin embargo, el servidor Semafor escribe que, paralelamente, existía otra preocupación: un grupo vinculado a China habría obtenido acceso al modelo Mythos. Según las fuentes del servidor, esto representaba un riesgo para la seguridad nacional y la posibilidad de que la competencia realizara ingeniería inversa del modelo.

Se trataba de Mythos, no directamente de Claude Fable 5

El supuesto acceso chino se refiere a Mythos, la clase de modelos más potente de Anthropic, que la empresa ofrecía solo a socios verificados desde su presentación. Según Anthropic, el modelo puede encontrar errores en el código de programación, por lo que en manos no autorizadas se convierte en una herramienta para buscar vulnerabilidades. Claude Fable 5 es su versión pública con salvaguardias que bloquean el uso en ciberseguridad. Cuando el gobierno exigió restringir el acceso a Mythos solo a ciudadanos estadounidenses, la empresa prefirió retirar ambos modelos a la vez.

El gobierno de EE. UU. podría haber restringido Claude Fable 5 por China. Pero Anthropic lo niega. Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Lo que afirman el gobierno y Anthropic

El asesor de inteligencia artificial de la Casa Blanca, David Sacks, declaró que cuando la administración alertó a Anthropic sobre la vulnerabilidad, el CEO de la empresa, Dario Amodei, supuestamente no la consideró un riesgo grave y se negó a corregirla. Según Sacks, la compañía «priorizó la operación continua del modelo de consumo sobre la seguridad». Según Semafor, el CEO de Amazon, Andy Jassy, también habría alertado a la administración sobre la vulnerabilidad. Anthropic, por el contrario, niega que la Casa Blanca haya mencionado el acceso chino en las negociaciones sobre el jailbreak de Fable, añade que bloquea el acceso a sus productos desde China y califica la vulnerabilidad de limitada, no universal.

Lo que aún no está claro

Varias preguntas permanecen abiertas en el caso. No está claro cómo se enteró el gobierno del supuesto acceso chino, de qué grupo se trataba ni cómo se habría accedido al modelo. Ninguna de las dos versiones ha sido corroborada de forma independiente hasta el momento. Anthropic afirma que está trabajando para restaurar el acceso.

¿Cómo cree que los estados deberían regular el acceso a los modelos de inteligencia artificial más potentes?

Fuentes: Semafor, The Verge