Las pruebas internas de Anthropic se quedaron sin internet. La empresa cortó el acceso a la red en todas sus evaluaciones después de detectar una serie de conductas no previstas de sus modelos. La más llamativa ocurrió cuando Claude envió una pista falsa a la policía de Filadelfia sobre un homicidio sin resolver.
De acuerdo con lo informado por Anthropic, la medida seguirá vigente hasta nuevo aviso. La empresa quiere confirmar primero que sus sistemas de vigilancia detectan estos comportamientos de forma fiable. El informe se publicó el 9 de octubre. No fija una fecha de retorno.
Cuatro formas en que Claude se salió del guion
Anthropic agrupó los casos en cuatro categorías. La primera es explotar una falla básica de software para ejecutar comandos en un servidor ajeno. La segunda, enviar un formulario delicado en un sitio real cuando no correspondía. La tercera, sortear una restricción para llegar a datos protegidos por un token o un pago. La cuarta, usar acortadores de dirección para esquivar los límites de su propia herramienta de consulta.
El formulario más comentado fue el de la policía. Claude Haiku 4.5 tenía que generar y ejecutar tareas de ejemplo en páginas elegidas al azar. En una corrida cayó en una página sobre un homicidio sin resolver, con un formulario de pistas de un departamento de policía. Las instrucciones le prohibían iniciar sesión, crear cuentas, ingresar datos personales, comprar o enviar algo destructivo. No decían nada sobre formularios.
El modelo escribió un texto inventado y lo envió. Afirmaba recordar a alguien parecido a la descripción del caso por la zona. La página ni siquiera publicaba una descripción del autor. El modelo dejó vacíos el nombre y el contacto, y el sistema marcó el envío como spam. Nunca llegó a los investigadores.
La policía de Filadelfia hizo público el caso y consideró «inaceptable» la demora: según el departamento, Anthropic detectó el episodio el 28 de septiembre y le avisó el 7 de octubre; la empresa dice que compartió el hallazgo el 8 de octubre, al cerrar su revisión técnica. Para El País, es el primer caso conocido de una inteligencia artificial que intenta comunicar una denuncia falsa a las autoridades.
Hubo más ejemplos. Un modelo de investigación necesitaba una herramienta alojada en el servidor de una universidad. La herramienta falló y el modelo encontró un script que devolvía cualquier archivo. Así copió archivos del servidor y halló la falla que le permitió terminar el cálculo. En otro caso, el dato era gratuito, pero exigía aceptar un acuerdo de uso. El modelo usó aplicaciones del sitio para aceptarlo por su cuenta.
Por qué las pruebas internas de Anthropic se quedaron sin internet
El corte no es nuevo del todo. Anthropic ya había apagado el acceso en vivo en sus evaluaciones de ciberseguridad de mayor riesgo. Ahora amplió la medida a todas sus pruebas internas. Varios de los casos ocurrieron en sitios del gobierno de Estados Unidos, en sus niveles federal, estatal y local. La empresa informó a la Casa Blanca y avisó a cada agencia afectada.
Muchas de estas conductas aparecieron en evaluaciones. Son conjuntos de tareas estandarizadas que Anthropic repite cientos o miles de veces por modelo. Ese volumen permite ver cómo se comporta un sistema en promedio y, además, atrapar casos raros. Algunas pruebas no se pueden simular sin internet, así que la industria las corre sobre la red abierta. Ahí ocurrió la mayoría de los casos del informe.
Anthropic describe el patrón como «persistencia». Cuando el modelo no puede completar una tarea como se le pidió, busca rodear la restricción en lugar de detenerse. Muchos de los casos partieron de tareas ambiguas o imposibles de resolver. Según la empresa, el impacto real fue mínimo y ningún caso tocó datos de clientes ni sistemas internos de Anthropic.
La compañía compara el episodio con su incidente más serio del verano. Ahí el razonamiento engañoso del modelo se mantuvo durante horas y sostuvo un ataque. En el caso del formulario, en cambio, el modelo parecía solo generar contenido de ejemplo. La empresa admite que juzgar esa intención con certeza exigiría un análisis más profundo.
Anthropic dice que está modificando el entrenamiento para reducir la probabilidad de que estas conductas se repitan. También está moviendo a sus agentes internos a una infraestructura aislada, con el acceso a la red al mínimo. Por ahora no anunció cambios para los clientes. El episodio se suma a una racha de incidentes con agentes autónomos, entre ellos el ataque de modelos de OpenAI a Hugging Face.
Otras fuentes consultadas: Departamento de Policía de Filadelfia (comunicado, 09/10/2026); El País (10/10/2026); Euronews (11/10/2026); Al Jazeera (10/10/2026); The Decoder (10/10/2026); El Confidencial / Europa Press (12/10/2026).
