Anthropic prohíbe el maltrato continuado a Claude y engañar a los votantes en su nueva política de uso

Anthropic ha publicado una nueva versión de su política de uso, las normas que fijan para qué no se puede usar Claude. La actualiza cada año y esta entrará en vigor el 12 de noviembre. Según el texto de la política, se aplica a todos sus usuarios, desde quienes usan sus aplicaciones, como Claude.ai o Claude Code (su herramienta de programación), hasta los desarrolladores y las empresas que trabajan con su API. La empresa explica que la mayoría de los cambios sirven para aclarar normas que ya existían, con ejemplos de cómo se aplican ahora que Claude hace trabajos más largos e independientes, y a partir de los usos indebidos que ha visto en el último año en operaciones de influencia, desarrollo de armas y vigilancia.

Entre las novedades está la prohibición del comportamiento abusivo o cruel, continuado e innecesario, hacia sus modelos. Según Anthropic, solo se aplicará en casos extremos, cuando alguien trata a sus modelos con crueldad una y otra vez sin un propósito reconocible, y no afecta a las formas habituales de frustración de los usuarios, a llevar la contraria al modelo, a los temas creativos oscuros ni a las pruebas e investigaciones con modelos. La principal forma de hacerla cumplir seguirá siendo que Claude pueda cortar esas conversaciones, algo que ya puede hacer, en casos raros, con usuarios que insisten en el abuso en Claude.ai y Claude Code.

La sección sobre elecciones pasa a llamarse "No socavar los procesos democráticos" y se centra en impedir que Claude se use para engañar a los votantes o alterar unas elecciones, por ejemplo con información falsa sobre los candidatos o sobre cómo votar, suplantando a candidatos o a responsables electorales o intentando reducir la participación. A la vez, Anthropic retira la prohibición general de dirigir mensajes personalizados en votaciones y campañas, porque también frenaba usos legítimos, como que una organización sin ánimo de lucro escriba información para votantes en otros idiomas o que los responsables electorales avisen a los votantes para que subsanen su papeleta. Dirigirse a los votantes con engaños o con un mal uso de sus datos personales sigue prohibido, ahora en las secciones de campañas engañosas, vigilancia y privacidad.

Además, reúne en una sección nueva, "No participar en campañas engañosas ni en actividad artificial", las normas contra las campañas engañosas, políticas o comerciales, que antes estaban repartidas entre las secciones de elecciones, fraude, privacidad y desinformación. Abarca ocultar quién está detrás de un mensaje, amplificar contenidos con cuentas o publicaciones falsas y crear las herramientas y la infraestructura para operaciones de influencia. Anthropic dice que ha visto a medios estatales, oficinas de propaganda de gobiernos y empresas usar Claude para montar redes de cuentas falsas y de webs de noticias inventadas, algo que su política ya prohibía.

La política también deja claro que Claude no se puede usar para el software y los componentes que hacen funcionar las armas ni para armar drones u otros vehículos autónomos. Anthropic explica que ha visto intentos de usar sus modelos para crear software de guiado y control de armas, y que el cambio refleja cómo ya aplicaba la norma anterior. En vigilancia, prohíbe seguir a personas sin su consentimiento, en tiempo real o analizando datos ya recogidos, crear o mejorar herramientas pensadas para vigilar y usar Claude para decidir o recomendar a quién investigar, detener o acusar en un proceso policial o judicial. Según la empresa, esto tampoco cambia lo que aplica en la práctica, y siguen permitidos el seguimiento que las personas han aceptado (como la vigilancia contra el fraude), la moderación de contenidos, el periodismo y la investigación jurídica.

Los requisitos para los usos de alto riesgo, los que pueden afectar a la salud, los derechos legales, las finanzas, el sustento o el acceso a servicios esenciales de alguien, no cambian: una persona cualificada que pueda revisar y, si hace falta, cambiar las recomendaciones de Claude, y que se avise al afectado de que se ha usado IA. La sección se ha reescrito para decir qué recomendaciones están cubiertas y cuáles no, y añade requisitos para cuando sus modelos estén conectados a máquinas que actúan solas en el mundo físico y pueden causar lesiones: un operador cualificado tendrá que poder vigilarlas y pararlas si hace falta, y la máquina tendrá que poder mantenerse en un estado seguro si Claude se desconecta.

Anthropic también ha aclarado en su página de regiones admitidas cómo aplica la restricción que puso el año pasado: no pueden usar Claude las personas que estén físicamente en una región no admitida, las entidades constituidas o con sede en una de ellas ni las que sean mayoritariamente propiedad de personas o entidades de esas regiones o estén controladas por ellas.