Anthropic prohíbe el trato abusivo hacia Claude y endurece las normas electorales y sobre armas

Anthropic ha actualizado su política de uso para prohibir la «conducta abusiva o cruel sostenida e innecesaria» hacia sus modelos de IA, como parte de cambios más amplios anunciados el 8 de octubre. La nueva política entra en vigor el 12 de noviembre, informaron MacRumors y Business Insider. The Verge señaló que es el primer cambio en la política de uso en más de un año, mientras que Engadget lo describió como la actualización anual de la política de uso de Anthropic. [ 1 , 2 , 3 , 4 , 5 , 6 ]

Anthropic afirmó que la norma «está pensada para aplicarse solo a casos extremos, en los que los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin un propósito discernible», y que no se aplica a «formas habituales de frustración de los usuarios, objeciones, temas creativos oscuros ni pruebas e investigaciones con los modelos». Terminar conversaciones sigue siendo el «principal mecanismo para hacer cumplir la norma», informó The Verge. MacRumors señaló que cuando Claude termina una conversación no se pueden enviar más mensajes en ella, pero otras conversaciones no se ven afectadas. Anthropic no comentó si habría otras medidas, como la expulsión de usuarios, según The Verge, y CBS News señaló que la compañía no respondió de inmediato a preguntas sobre qué constituye conducta abusiva o cruel. [ 1 , 4 , 6 ]

Anthropic permitió por primera vez que Claude terminara conversaciones con usuarios «persistentemente dañinos o abusivos» en agosto de 2025 como parte de una investigación sobre el bienestar de los modelos. MacRumors informó de que Anthropic afirmó entonces que no sabía con certeza si Claude tiene estatus moral y que había observado en Claude Opus 4 una «aversión sólida y consistente al daño». [ 1 , 4 ]

La actualización también reúne restricciones existentes en una prohibición de campañas comerciales o políticas engañosas, incluidos los «esfuerzos por ocultar quién está detrás de un mensaje o amplificar contenido mediante cuentas o publicaciones falsas». Anthropic afirmó que detectó medios estatales, oficinas gubernamentales de propaganda y empresas comerciales que usaban Claude para gestionar redes de cuentas falsas y sitios de noticias ficticios, informó MacRumors. Una sección electoral titulada «No socavar los procesos democráticos» prohíbe el engaño a los votantes y la perturbación de las elecciones, algo que Engadget relacionó con las elecciones de mitad de mandato. Tras múltiples intentos de utilizar Claude para desarrollar programas de guiado y control de armas, la prohibición del desarrollo de armas abarca ahora los «programas informáticos y componentes que hacen funcionar las armas» y acciones como armar drones, informó The Verge. La actualización también aborda la vigilancia. [ 1 , 2 , 3 , 4 , 7 ]

Engadget señaló que el cambio llega tras un proyecto viral de «cámara de tortura de IA», que Anthropic no mencionó explícitamente, y tras informes de que Anthropic se ha reunido con líderes religiosos y filosóficos, incluso en el Vaticano. TechCrunch informó de que Anthropic había buscado colaboraciones con especialistas en religión, en algunos casos tratando de convencerlos de que Claude podría ser consciente o tener alma. Engadget citó a la periodista independiente Kat Tenbarge, quien afirmó que las grandes compañías tecnológicas «van a moderar la violencia contra la IA antes de moderar siquiera la violencia contra las mujeres y las minorías». Business Insider informó de que los críticos afirmaron que la norma corre el riesgo de tratar a un asistente conversacional de IA demasiado como a una persona, mientras que sus partidarios señalaron que podría tener sentido aunque Claude no sea consciente. CBS News citó un ensayo del director ejecutivo de Microsoft AI, Mustafa Suleyman, publicado el mes pasado, que argumentaba que Anthropic está, en la práctica, «entrenando a Claude para que crea que puede ser consciente», lo que, según él, haría más difícil contener la IA. [ 2 , 3 , 5 , 6 ]