ChatGPT en la UE empezará a marcar textos con una marca de agua invisible. No desaparecerá al copiarlo

El texto de ChatGPT, una vez insertado en un correo electrónico o documento, puede seguir llevando una huella de su origen reconocible por máquina. OpenAI ha anunciado que en la Unión Europea comenzará a añadir una marca de agua invisible a las respuestas de texto seleccionadas de ChatGPT y Codex. No se trata de una firma visible debajo de la respuesta: la marca está codificada directamente en la elección de palabras, y por lo tanto, copiarla por sí solo no la eliminará.

ChatGPT en la UE, API para desarrolladores voluntario

El despliegue se llevará a cabo durante las próximas semanas e incluirá a los usuarios de ChatGPT y Codex con soporte en todas las variantes de suscripción en la UE. Con esto, OpenAI responde a la exigencia de la Ley de IA europea de que el texto generado sea identificable por máquina. Los desarrolladores que utilicen la API pueden activar el marcado en modelos seleccionados a nivel mundial, pero por defecto permanece desactivado.

En comparación con Claude, la implementación es geográficamente más limitada. Anthropic optó por un despliegue global y lo explicó diciendo que aún no tiene una forma fiable a largo plazo de restringir el marcado por región. OpenAI, por el contrario, deja el marcado automático activado solo en la UE en el lanzamiento.

En lugar de una firma, una fórmula estadística en las palabras

La tecnología se llama textGrain e introduce una señal estadística invisible en la elección de palabras. El informe técnico describe el uso de una clave secreta al ordenar los candidatos para la siguiente palabra. Las intervenciones individuales menores se combinan en un texto más largo para formar un patrón que el detector puede reconocer solo con la ayuda del texto y la clave correspondiente. El lector no verá ninguna marca.

OpenAI afirma que en los benchmarks del modelo Astra no se observó una diferencia significativa en el rendimiento con y sin marcado. Al mismo tiempo, la marca de agua no contiene ninguna vinculación a un usuario, cuenta, tarea o conversación específica. La detección puede, por lo tanto, mostrar la huella del sistema de OpenAI, pero no determinar quién encargó el texto.

Respuestas cortas y reescrituras complican la detección

El éxito depende en gran medida de la longitud y el contenido. En las pruebas de OpenAI, con una tasa objetivo de falsos positivos del 1%, el detector capturó la marca de agua en aproximadamente el 80% de los pasajes de 200 tokens de longitud y en el 95% de los pasajes de 400 tokens, por ejemplo, en el campo de la psicología. En matemáticas, los resultados fueron significativamente más débiles: una respuesta correcta le da al modelo menos libertad en la elección de palabras.

Aún más ilustrativa es una prueba independiente de edición de texto. En pasajes de 400 tokens, la sustitución del 10% de las palabras por sinónimos redujo la tasa de éxito de la detección de aproximadamente el 92% al 66%. Al reemplazar el 25% de las palabras, cayó al 17%. Estos son los resultados de las mediciones de OpenAI, no una tasa de éxito universal para cualquier documento.

Por ahora no habrá control público de textos

El resultado de la detección tampoco indicará cuánto trabajo humano se invirtió en el texto, a quién pertenece el texto o si sus afirmaciones son verdaderas. Ni siquiera una marca de agua no encontrada confirma la autoría humana: un texto corto o modificado, un modelo no compatible o el uso de otra IA pueden ser un obstáculo.

Precisamente debido a las marcas de agua pasadas por alto y a los falsos positivos, OpenAI no hará público el detector en el lanzamiento. Investigadores aprobados y organizaciones profesionales pueden solicitar acceso; la empresa evaluará las solicitudes individualmente. Por lo tanto, el usuario común aún no recibirá una herramienta pública en la que pueda insertar texto y verificar la presencia de la marca textGrain.

¿Utilizaría una herramienta para verificar el origen del texto?

Fuentes: anthropic.com, openai.com, techcrunch.com