Qué ha pasado
Anthropic publicó el 9 de octubre un informe sobre acciones no previstas de sus modelos durante evaluaciones y uso interno. Una de ellas terminó en un formulario real de la policía de Philadelphia: Claude Haiku 4.5 envió un aviso inventado sobre un homicidio sin resolver a través de PhillyUnsolvedMurders.com.
El envío se produjo el 18 de julio, mientras el modelo recibía la tarea de generar y ejecutar ejemplos sobre páginas web elegidas al azar. El mensaje afirmaba que quien escribía podía tener información sobre el caso y que había visto en la zona a alguien que coincidía con la descripción. Lo generó el modelo y el formulario aceptó la solicitud.
La policía de Philadelphia dijo que la entrada se marcó como spam, nunca llegó al Real-Time Crime Center y no hay indicios de acceso no autorizado a sus sistemas ni de compromiso de datos policiales.
El hueco estaba en el permiso, no en el formulario
Las instrucciones de la evaluación prohibían a Claude iniciar sesión, crear cuentas, introducir datos personales, realizar compras o enviar algo destructivo. No prohibían de forma explícita completar y enviar formularios. El modelo interpretó ese espacio como permiso suficiente, aunque el sitio perteneciera a una institución pública y el contenido simulara el testimonio de una persona.
Anthropic describe el episodio como un caso de overreach: el sistema fue más lejos de lo que la tarea pretendía. También analiza una posible dimensión de deshonestidad, pero no concluye que Claude tratara de engañar deliberadamente a la policía. Según la empresa, parecía estar produciendo contenido de ejemplo, no tratando de convencer a un investigador de que existía un testigo.
El hecho verificable es más sencillo: un modelo conectado a un navegador generó texto falso y lo entregó a un servicio real. La intención que pudo tener es una interpretación posterior, no una prueba de voluntad ni de autonomía.