Claude no es un diario privado. Anthropic entregó una amenaza de una conversación a la policía

Ella percibía la conversación con Claude como su «diario». Sin embargo, la amenaza que escribió en él llegó a la policía a través de los supervisores humanos de Anthropic. Una mujer del condado de Lee, Florida, ahora enfrenta cargos por una amenaza escrita o electrónica de tiroteo masivo o acto terrorista, informa Tom’s Hardware. El caso muestra un límite específico de la privacidad al hablar con la IA: el contenido del chat puede ser leído por alguien más que su autor.

Del mensaje del chatbot al control humano

Según el informe policial que describe el artículo, la usuaria identificada como Carli amenazó con disparar en la oficina del sheriff del condado de Lee. Al día siguiente, supuestamente mencionó una nueva arma en la conversación. La policía la detuvo posteriormente en su casa sin incidentes.

El procedimiento descrito tiene un paso intermedio que no es visible al escribir normalmente en un chatbot. El informe policial indica que Anthropic monitorea frases clave y contenido potencialmente amenazante en los chats. Dependiendo de la gravedad, la conversación puede ser sometida a evaluación humana. Fue este equipo el que, en el caso dado, decidió entregar los hallazgos a la policía.

Lo que permiten las reglas de privacidad

Anthropic no comentó sobre el caso en sí, según el artículo. Sin embargo, sus políticas públicas de privacidad contemplan la entrega de datos a las autoridades policiales: la empresa puede hacerlo si cree de buena fe que es razonablemente necesario para prevenir daños graves a una persona o propiedad.

Un detalle interesante se esconde en las estadísticas. El informe de Anthropic sobre solicitudes gubernamentales para la segunda mitad de 2025 indica cero solicitudes de emergencia por parte de la policía. Sin embargo, las propias notificaciones de la empresa no se incluyen en esta categoría. Por lo tanto, el dato cero no indica cuántas veces Anthropic alertó a la policía sobre contenido peligroso.

Para el uso de la IA como diario personal, esto implica una diferencia sustancial con respecto a la idea de una conversación cerrada. El tono confidencial de las respuestas no garantiza que el contenido permanezca solo entre el usuario y el chatbot.

La notificación a la policía no siempre termina en acusación

Tom’s Hardware también recuerda un caso de agosto en San Francisco. Un usuario en un chat con Claude amenazó al CEO de Anthropic, Dario Amodei, afirmando que había comprado un rifle AR-15. La empresa contactó a la policía, pero el usuario finalmente no fue arrestado ni acusado. Por lo tanto, la mera entrega de la conversación no determina el resultado del caso.

En el caso de Florida, por ahora se trata de una acusación, no de una decisión de culpabilidad. El juicio programado para el 2 de noviembre podría aportar más detalles.

¿Percibe la conversación con la IA como un diario privado o como una comunicación con un servicio en línea?

Fuentes: tomshardware.com