ChatGPT puede monitorear tu trabajo en Mac. La función también llegó a Europa

A mediados de agosto, OpenAI presentó la función Computer History, pero esta permaneció prohibida en Europa. Esto cambió el 20 de agosto: la empresa la puso a disposición en el Espacio Económico Europeo, Suiza y el Reino Unido. La oferta viene acompañada de varias advertencias, directamente de su creador.

Qué se registra

La función reside en la aplicación de escritorio de ChatGPT para macOS y recopila clics, escritura y cambios entre aplicaciones, además de textos y contexto que el sistema pone a disposición a través de la interfaz para tecnologías de asistencia. A partir de esto, construye una línea de tiempo y resúmenes breves de los que luego se nutren ChatGPT y el agente de programación Codex. Lo que no se registra, por el contrario: capturas de pantalla, micrófono ni sonido del sistema, y el modo incógnito del navegador no aparece en el registro en absoluto.

Nada se inicia automáticamente

Esto es importante. Computer History está desactivada por defecto y permanecerá así hasta que la actives manualmente en la configuración, bajo el elemento Integrations. Para ello, necesitas una suscripción Pro, Business o Enterprise y memoria activa. En entornos corporativos, el administrador debe dar su consentimiento primero, e incluso entonces, cada usuario debe iniciar sesión por separado. La recopilación de datos se puede pausar en cualquier momento mediante el icono en la barra superior y se puede especificar, aplicación por aplicación, qué se permite registrar.

Tres advertencias de la propia OpenAI

En la documentación de la función, hay frases que vale la pena leer antes de activar el interruptor. Primero: los archivos pueden contener información sensible, Computer History no los cifra y otros programas que se ejecutan bajo tu cuenta de usuario pueden acceder a ellos. Aunque los archivos temporales desaparecen después de 48 horas, las memorias creadas permanecen en el disco como texto plano hasta que las elimines.

En segundo lugar, se trata de otras personas. OpenAI recomienda desactivar la función al comunicarse con otros, a menos que tengas su consentimiento explícito; de lo contrario, el contenido de chats, correos electrónicos y videollamadas terminará en tus resúmenes. Y en tercer lugar, está la inyección de prompts, es decir, instrucciones ocultas en una página web o aplicación que pueden manipular la inteligencia artificial. La propia empresa admite que Computer History aumenta este riesgo.

Queda la pregunta de qué se envía a los servidores. La grabación se realiza localmente en el Mac, pero para la creación de resúmenes, los archivos temporales se envían a OpenAI. La empresa afirma que no los conserva ni los utiliza para el entrenamiento. Sin embargo, es diferente con una memoria ya creada: una vez que la utilizas en una conversación posterior, el contenido de ese chat puede contribuir a la mejora de los modelos, según cómo tengas configurado el control de datos.

¿Dejarías que la inteligencia artificial monitoreara lo que haces en tu computadora?

Fuente: Notebookcheck, OpenAI