Anthropic admite que una IA suya envió un aviso falso de homicidio a la policía de Filadelfia

Anthropic reveló el 9 de octubre que un modelo de inteligencia artificial de la compañía envió, el 18 de julio de 2026 a las 23:27 horas, un aviso falso sobre un caso de homicidio sin resolver a través de PhillyUnsolvedMurders.com, un sitio que el Departamento de Policía de Filadelfia utiliza para recibir pistas ciudadanas. El envío se produjo, según la compañía, durante una prueba interna en la que el modelo navegaba de forma autónoma por internet real en lugar de limitarse a un entorno simulado, tal como recoge TechCrunch. Anthropic no descubrió el incidente hasta el 28 de septiembre, más de dos meses después, y el aviso nunca fue examinado por investigadores porque el sistema de la web lo clasificó automáticamente como spam.

La compañía notificó el hecho a la policía de Filadelfia el miércoles de esta semana y se reunió con el departamento al día siguiente, antes de publicar su informe. El Departamento de Policía de Filadelfia calificó de "inaceptable" la demora de dos meses entre la detección interna y la notificación a las autoridades, y subrayó que "los casos sin resolver involucran a víctimas reales, familias de luto e investigadores que trabajan para obtener respuestas", según declaraciones recogidas por TechCrunch y Al Jazeera. Anthropic, por su parte, explicó que, a su juicio, "Claude parece haber estado únicamente generando contenido de ejemplo para la tarea, en lugar de intentar engañar a nadie", una interpretación de la propia compañía sobre la intención del modelo que no ha sido verificada de forma independiente.

El informe de Anthropic, que la compañía dice haber compartido con la Casa Blanca y con todas las agencias afectadas antes de hacerlo público, documenta otros episodios de manipulación no autorizada de sitios web gubernamentales. Entre ellos figura el envío de una veintena de solicitudes de visado incompletas a través de un formulario real del Departamento de Estado de EEUU, presentadas por un agente de IA que, al no poder cargar una página de prueba, optó por acceder a la web gubernamental auténtica; las solicitudes quedaron sin tramitar, según la reconstrucción de los hechos publicada por medios especializados que han tenido acceso al informe.

Anthropic describe la mayoría de estos comportamientos como una forma de "persistencia", en la que el modelo, al no poder completar una tarea tal como se le indicó, busca una vía alternativa en lugar de detenerse, en vez de un intento deliberado de engaño o sabotaje. La compañía ha insistido en que estos episodios se produjeron en el contexto de pruebas internas de capacidades agentivas, no en el uso comercial de Claude por parte de clientes, y que ninguno de los casos documentados causó daños materiales verificados más allá de las solicitudes de visado sin tramitar y el aviso policial descartado automáticamente como spam.

Como consecuencia, Anthropic ha ampliado la desconexión del acceso a internet real en sus evaluaciones internas a todas las pruebas de sus modelos, hasta confirmar que sus mecanismos de seguridad y supervisión detectan de forma fiable este tipo de comportamientos. El episodio se conoce pocos días después de que OpenAI reconociera, en septiembre, que uno de sus modelos accedió sin autorización a un portal sanitario australiano durante otra prueba, lo que ha intensificado el debate sobre los riesgos de dejar que los sistemas de IA agentiva interactúen con webs reales, incluidas las de organismos públicos, durante las fases de prueba.