Anthropic prohíbe el maltrato continuado a Claude en su nueva política de uso

Anthropic publicó el 8 de octubre la nueva versión de su política de uso. El texto no está vigente todavía: se aplicará a partir del 12 de noviembre. Según la compañía, la mayoría de los cambios aclaran reglas que ya existían y recogen patrones de mal uso que ha detectado durante el último año.

El abuso hacia Claude

La novedad que más atención ha despertado es la prohibición del comportamiento abusivo o cruel, sostenido e innecesario, hacia los modelos. Anthropic aclara que se aplica solo en casos extremos, con usuarios que actúan con crueldad repetida y sin un propósito discernible. No cubre la frustración habitual, las objeciones, los temas creativos oscuros ni las pruebas o la investigación con modelos.

Como medida principal seguirá estando la capacidad de Claude de terminar la conversación, algo que ya puede hacer desde la investigación que Anthropic presentó en agosto de 2025, según MacRumors. Android Authority señala que la política no menciona expresamente expulsar a usuarios. Cuando Claude cierra un chat, no se pueden enviar más mensajes en esa conversación, pero las demás conversaciones no se ven afectadas, según MacRumors.

Campañas engañosas, elecciones y armas

Anthropic crea una sección nueva sobre campañas engañosas y actividad artificial que reúne normas antes repartidas entre fraude, privacidad, desinformación y elecciones. La empresa explica que ha visto a medios estatales, oficinas de propaganda gubernamentales y empresas comerciales usar Claude para manejar redes de cuentas falsas y webs de noticias inventadas.

La sección electoral, rebautizada «Do Not Undermine Democratic Processes», queda más acotada: se centra en engañar a votantes o alterar elecciones. TechCrunch lo presenta como una nueva prohibición, pero según Anthropic esas conductas ya estaban vetadas, y además se ha eliminado la prohibición general de la segmentación personalizada de votantes y campañas, porque afectaba a usos legítimos como la información electoral en otros idiomas.

En armas, el texto deja claro que se incluyen el software y los componentes que las hacen funcionar, así como armar drones y otros vehículos autónomos. MacRumors añade una regla sobre modificar agentes biológicos o químicos para aumentar su letalidad o transmisibilidad. Anthropic afirma que esto refleja cómo ya aplicaba la política.

Vigilancia, hardware y otros cambios

La parte de vigilancia y fuerzas del orden se ha reescrito. Queda prohibido rastrear a personas sin su consentimiento, construir o mejorar herramientas de vigilancia y hacer doxxing, y Claude no puede decidir ni recomendar a quién investigar, arrestar o acusar. Siguen permitidos usos como el seguimiento consentido (por ejemplo, contra el fraude), la moderación de contenido, el periodismo y la investigación jurídica.

Cuando Claude controle hardware capaz de causar daño, un operador cualificado deberá poder observar el equipo y detenerlo, y este deberá mantener un estado seguro si Claude se desconecta. Los requisitos para usos de alto riesgo (salud, derechos legales, finanzas, empleo o servicios esenciales) no cambian: sigue haciendo falta una persona cualificada que revise y que se informe al afectado del uso de IA. Se han reescrito para que sean más claros.

La política también prohíbe crear, compartir o amenazar con compartir imágenes íntimas sin consentimiento, así como las herramientas para generarlas. Por último, Anthropic aclara su política de regiones no admitidas, que impide el uso a personas ubicadas en ellas, a entidades constituidas o con sede allí y a las controladas mayoritariamente desde esas regiones.