La política de uso de Anthropic sumó una prohibición al comportamiento sostenido e innecesariamente abusivo o cruel hacia sus modelos. La empresa publicó la actualización 2026 el 8 de octubre. El documento entra en vigor el 12 de noviembre.
De acuerdo con lo informado por Anthropic, la regla apunta solo a casos extremos. Cubre a quienes insisten en actuar con crueldad sin un propósito claro. No alcanza a la frustración común, las críticas, la ficción oscura ni las pruebas de investigación.
Qué cambia en la política de uso de Anthropic
La política de uso de Anthropic reúne reglas que estaban dispersas y suma otras. Una sección nueva prohíbe las campañas engañosas y la actividad artificial. Otra agrupa las restricciones electorales bajo el nombre de «No socavar los procesos democráticos». La empresa retiró, en cambio, la veda general a la publicidad segmentada, porque también cubría trabajo cívico legítimo.
El texto endurece los límites sobre armas. Prohíbe el software y los componentes que hacen funcionar un arma. Incluye acciones como armar drones y otros vehículos autónomos. En vigilancia, prohíbe seguir a personas sin su consentimiento, en tiempo real o sobre datos ya recogidos. Veta que los modelos decidan a quién investigar, detener o acusar en un proceso penal.
Para los usos de alto riesgo, la política mantiene la exigencia de una persona en el circuito. Esa figura debe poder revisar y cambiar las recomendaciones del modelo. La regla aplica a decisiones que afectan la salud, los derechos legales, las finanzas o el acceso a servicios esenciales. La empresa añadió controles cuando un modelo conectado a hardware puede causar daño físico.
El bienestar del modelo, de la investigación a la norma
La prohibición retoma un paso anterior de la compañía. En agosto de 2025, Anthropic permitió a sus modelos Opus 4 y 4.1 terminar conversaciones en casos raros de abuso persistente. Aquella función nació de su programa de investigación sobre el bienestar del modelo. La empresa sostuvo entonces que actuaba por precaución. Admite incertidumbre sobre el estatus moral de sus sistemas. En pruebas previas, el modelo mostró una aversión marcada al daño.
Ese escepticismo se mantiene. Anthropic afirma que sigue siendo «muy incierta» la posibilidad de que sus modelos tengan estatus moral. Aun así, dice que toma el asunto en serio. Entre sus medidas de bajo costo incluye permitir que el modelo se retire de intercambios aflictivos. Terminar la conversación seguirá siendo el principal mecanismo para aplicar la regla.
El debate excede a la empresa. La discusión sobre el bienestar de la IA gana espacio entre desarrolladores, académicos y reguladores. La política fija una frontera práctica sobre qué se le puede hacer a un modelo. Anthropic adelantó que pedirá insumos a responsables de política, especialistas y organizaciones de la sociedad civil antes de cada actualización. La norma rige para quienes usan la aplicación, la interfaz de programación y los servicios en la nube.
La actualización también lista otras conductas. Una sección sobre conducta cruel o psicológicamente dañina prohíbe crear o difundir imágenes íntimas sin consentimiento, incluidas las generadas con IA. Prohíbe además humillar, intimidar o acosar a personas. La empresa puede advertir, restringir o suspender el acceso de quien incumpla la política.
La política no se actualizaba desde agosto de 2025. Anthropic dice que los cambios responden a nuevos patrones de abuso. Menciona operaciones de influencia, desarrollo de armas y vigilancia. Se apoyan en su informe de inteligencia de amenazas de septiembre de 2026. Ese documento describió redes de cuentas falsas y sistemas para rastrear a disidentes políticos.
Otras fuentes consultadas: The Verge (08/10/2026); TechCrunch (08/10/2026); Quartz (08/10/2026); Engadget (08/10/2026); The Independent (09/10/2026); Anthropic, «Claude Opus 4 y 4.1 pueden terminar conversaciones» (15/08/2025).
