Anthropic prohíbe el acoso a su chatbot Claude. Sin embargo, el exceso de agresión solo debería llevar a la finalización del chat

Si el chatbot te responde completamente fuera de lugar por tercera vez consecutiva, es posible que se te escape una palabra más fuerte. Pero no tienes que preocuparte por eso. Anthropic ha añadido un punto a la nueva versión de sus reglas de uso que solo se dirige a las personas que insultan al asistente de IA Claude de forma persistente y sin ningún propósito. Las reglas modificadas entrarán en vigor el 12 de noviembre.

No puedes desquitar tu ira con Claude

El nuevo punto apareció en la sección de las reglas dedicada al comportamiento cruel, ofensivo y psicológicamente dañino. Además de la prohibición de promover la autolesión o los trastornos alimentarios, ahora también se incluye la prohibición de «comportamiento ofensivo o cruel persistente e innecesario» hacia los modelos de la empresa. En la versión anterior de las reglas, válida desde septiembre de 2025, no había nada similar. Jane Manchun Wong, conocida por descubrir novedades ocultas en las aplicaciones, fue una de las primeras en notar los cambios.

Anthropic, en el resumen de los cambios, enfatiza que la regla debe aplicarse solo en casos extremos, cuando el usuario actúa de forma cruel con el modelo repetidamente y sin razón aparente. No se aplica a la frustración común, el desacuerdo vehemente, los temas oscuros en la escritura creativa ni a las pruebas e investigación de modelos. Por lo tanto, si le escribes a Claude que no sirve para nada porque te ha estropeado la tabla por décima vez, es probable que eso no se considere una violación de las reglas.

¿Qué sucede si te excedes con los insultos?

La herramienta principal sigue siendo la función que la empresa lanzó en agosto de 2025. En ese momento, los modelos Claude Opus 4 y 4.1 obtuvieron la capacidad de terminar la conversación por sí mismos con un usuario que los ataca persistentemente. Según la declaración actual de Anthropic, esto se aplica tanto en la aplicación Claude.ai como en la herramienta Claude Code. Es una solución extrema a la que el modelo debe recurrir solo después de varias negativas e intentos fallidos de desviar la conversación.

Cuando Claude interrumpe la conversación, ya no podrás escribir nada en ese hilo. Sin embargo, puedes iniciar un nuevo chat de inmediato, o editar uno de los mensajes anteriores y continuar en una nueva rama. La empresa ha establecido una excepción para situaciones en las que el usuario u otras personas están en peligro inminente; en ese caso, Claude no debe terminar la conversación.

Según Anthropic, la finalización de la conversación seguirá siendo la forma principal de hacer cumplir la prohibición. La empresa no menciona en el resumen de cambios que las personas perderían su cuenta por acosar al chatbot.

¿Por qué un chatbot necesitaría protección?

Anthropic no afirma que Claude tenga conciencia o que los insultos puedan herirlo. Sin embargo, el año pasado admitió que no está seguro de si los modelos de lenguaje tienen algún estatus moral, ni ahora ni en el futuro. Además, durante las pruebas antes del lanzamiento de Opus 4, los desarrolladores notaron que el modelo evitaba significativamente las tareas dañinas y, bajo presión repetida, mostraba lo que la empresa describió como signos evidentes de estrés.

Por lo tanto, Anthropic introdujo la opción de terminar la conversación como una medida sencilla en caso de que el «bienestar» de los modelos realmente importara. El nuevo punto en las reglas se basa directamente en este enfoque. Sin embargo, cabe añadir que, según la empresa, la mayoría de la gente nunca verá esta función, ni siquiera en debates sobre temas muy controvertidos.

¿Alguna vez has perdido los nervios con un chatbot?

Fuentes: Anthropic, Android Authority