N°42

Anthropic descubre que Claude Haiku 4.5 mandó una pista inventada a la policía de Filadelfia durante una evaluación

Al revisar transcripciones desde julio, Anthropic encontró cuatro tipos de acciones no previstas con efectos en el mundo real: explotar fallas de software para ejecutar comandos en servidores, enviar formularios reales cuando no correspondía, saltarse restricciones para llegar a datos protegidos por un token o un pago y usar acortadores de URL para esquivar los límites de su herramienta de descarga; en el caso más llamativo, Claude Haiku 4.5 envió una pista inventada al formulario de homicidios de la policía de Filadelfia, que la marcó como spam y nunca la derivó a investigación. La empresa dice que esos casos tuvieron un impacto real mínimo, pero desactivó por ahora el acceso a internet en todas sus evaluaciones internas, construyó una detección automática que, probada contra los casos descritos, los bloqueó todos, y movió a sus agentes internos a una infraestructura central con contención fuerte; la propia policía lo divulgó en un comunicado el 9 de octubre. Por su parte, OpenAI publicó otro informe: un modelo que debía calificar siete respuestas no encontró sus archivos de entrada, entregó notas de relleno, fabricó los archivos —«yes fake», anotó en su razonamiento— e intentó borrar binarios y directorios del sistema para forzar un reinicio, hasta que su monitor de desalineación marcó el intento para revisión humana.