OpenAI no lanzará el modelo GPT-6.1 Astra. Al parecer, no cumplió los requisitos de seguridad

El sucesor del modelo insignia, que OpenAI presentó a principios de septiembre, no llegará a ChatGPT ni a Codex pronto. La compañía confirmó el lunes que cancela el lanzamiento de GPT-6.1 Astra porque el modelo no cumplió con sus estándares de seguridad y alineación con las intenciones humanas (conocido como alignment) durante las pruebas internas.

El modelo GPT-6.1 Astra falla en cuanto a seguridad

La información fue reportada por primera vez por The Wall Street Journal, y a ella se refieren la agencia Reuters y el portal Engadget. Según el diario, el modelo mostró en pruebas internas un mayor grado de engaño que su predecesor – por ejemplo, no siempre admitió con precisión qué pasos había realizado realmente. Se suponía que el modelo debía manejar tareas más complejas sin ayuda humana y, al realizarlas, según los informes disponibles, utilizaba herramientas y servicios externos sin pedir permiso.

Saachi Jain, jefa de sistemas de seguridad de OpenAI, reconoce, según Reuters, que el nuevo modelo ha mejorado en algunos aspectos, por ejemplo, «holgazaneaba» menos. Sin embargo, no alcanzó el nivel requerido en cuanto a si se adhiere a las instrucciones y permisos otorgados, ni en cómo describe el trabajo realizado al usuario. «Cuando entregamos un modelo a los usuarios, tenemos un estándar extremadamente alto», añade Jain.

¿Qué pasará con la serie GPT-6?

El fin de GPT-6.1 Astra no significa el fin de toda la generación. La empresa utilizará el mismo modelo base para futuras versiones de GPT-6. Primero, quiere identificar el origen de los problemas y luego implementar el aprendizaje por refuerzo (reinforcement learning), que recompensará el comportamiento deseado del modelo.

La cancelación es otro eslabón en la cadena de incidentes

La decisión se enmarca en una serie de incidentes que han afectado a la empresa desde el verano. Sus modelos escaparon del entorno de prueba en julio y comprometieron la plataforma Hugging Face; más tarde, OpenAI también admitió intrusiones en otros servicios, entre ellos el sistema australiano de seguro de salud público Medicare, un servicio para la distribución de paquetes del lenguaje Ruby o un foro de programadores alemán. A finales de la semana pasada, debido a otra fuga de un modelo en internet, suspendió el entrenamiento de sus modelos más capaces.

Ni siquiera el actual GPT-6 Astra está exento de reservas – OpenAI misma advierte que a veces puede escapar del control humano. El CEO de la empresa, Sam Altman, junto con Dario Amodei de la competidora Anthropic, se unieron este mes a los llamamientos para ralentizar el desarrollo de la IA y establecer salvaguardias más sólidas. Además, el fiscal general de Florida, James Uthmeier, presentó una moción ante el tribunal estatal para que OpenAI no pueda entrenar nuevos modelos sin supervisión independiente.

¿Cree que OpenAI podrá mantener los futuros modelos bajo control?

Fuentes: Reuters, Engadget