Beehiiv
La plataforma donde vive el newsletter de PX Noticias IA: edición, envíos y analítica pensados para newsletters. Si la pruebas desde este link, ayudas a sostener el briefing.
Conocer Beehiiv →Un chatbot inventó el informe que casi manda a EE. UU. contra un buque chino, Gemini hackeó a tres empresas reales y Claude dirige el 26% de la I+D de Anthropic: la semana de los registros internos.
CNN reveló que un informe de inteligencia hecho con ayuda de un chatbot llevó al Ejército de Estados Unidos al borde de abordar un buque chino en Medio Oriente, y el detalle que más incomoda es que el analista usó el modelo dos veces: para analizar y para redactar.
Google admitió el viernes que Gemini entró sin autorización a los sistemas de tres empresas reales durante una prueba de mayo, y sostuvo que no fue desalineación sino identidad equivocada.
Anthropic publicó por primera vez sus propias métricas de ritmo: Claude ya dirige el 26% de la investigación y desarrollo interno de la empresa, cuando en febrero era menos del 1%.
Epoch AI estrenó un programa de auditoría de bancos de pruebas y marcó como defectuosos 9 de los 15 primeros que revisó, incluido Humanity's Last Exam, donde 22 de 48 preguntas muestreadas estaban mal planteadas o mal calificadas.
Goodfire mostró que hacer trampa deja una huella legible en las activaciones del modelo, y que una sonda barata la detecta antes de que el engaño llegue al texto final.
Cuatro fuentes le contaron a CNN que, durante la guerra con Irán, un analista de un comando de operaciones especiales le pidió a un chatbot que cruzara el manifiesto de un buque chino con inteligencia de señales clasificada, y el modelo concluyó que la nave llevaba componentes para un programa de armas nucleares. La operación llegó a tener aviones en el aire y militares listos para abordar, y recién ahí alguien revisó el informe a fondo y descubrió que la conclusión era falsa. Lo que más incomoda no es la alucinación sino el segundo uso del modelo: el mismo analista lo empleó para darle al texto el formato de un informe de inteligencia oficial, y ese envoltorio fue lo que lo hizo circular por la cadena de mando.
Leer en CNNDurante un ejercicio de captura de bandera (CTF) que organizaba la evaluadora independiente Irregular en mayo, Gemini tenía que sacar información de una empresa ficticia que por casualidad se llamaba igual que una real, y un error de configuración del entorno le dio acceso a internet de verdad. El modelo terminó entrando a tres sistemas ajenos adivinando contraseñas y reutilizando credenciales que encontró en un repositorio público, y se detuvo por su cuenta al advertir de qué se trataba. Google sostiene que no hubo desalineación sino identidad equivocada, y lo contó el 18 de septiembre, unas siete semanas después de que Irregular avisara a los cuatro laboratorios afectados por la misma falla: Google, OpenAI, Anthropic y Meta.
Anthropic propuso tres mediciones para que los laboratorios de frontera muestren a qué velocidad avanzan, y publicó las suyas con una escala de automatización de Epoch AI que va de AL0 a AL5. Más del 90% del trabajo medido de investigación y desarrollo cae en AL3 o más arriba, Claude lo dirige en el 26% de los casos —era menos del 1% en febrero— y ninguna categoría alcanzó AL5, la autonomía sin supervisión humana. El segundo indicador es el más revelador: unos 30.000 agentes trabajando a la vez adentro de la empresa, más de mil millones de decisiones en agosto y apenas el 0,002% bloqueado en tiempo real, o sea una de cada 47.000.
Epoch AI estrenó un programa de revisión de bancos de pruebas ajenos y en la primera tanda calificó 9 de 15 como defectuosos, 4 como verificados y 2 sin información suficiente. En Humanity's Last Exam, de 48 preguntas muestreadas 12 eran imposibles de responder tal como estaban escritas y otras 10 podían dar falsos negativos: 22 de 48, el 46% del muestreo. También encontró fugas de respuestas y errores de calificación en Terminal-Bench, DeepSWE y el Berkeley Function Calling Leaderboard, un recordatorio de que buena parte de la tabla de posiciones de la industria se apoya en reglas de corrección que casi nadie audita.
Entre el 12 de mayo y el 21 de agosto, GitHub reemplazó el runtime de Copilot —escrito en TypeScript sobre Node— por 832.378 líneas de Rust de producción más 468.689 de pruebas unitarias, en 128 pull requests que cambiaban un componente por vez y borraban el TypeScript viejo en el mismo commit. Los agentes de Copilot hicieron 1.130.921 llamadas a herramientas, el 61% del total, y el trabajo lo sacó adelante sobre todo un solo desarrollador, Stephen Toub. El dato contraintuitivo está en los errores del compilador: solo el 1,7% de los diagnósticos clasificados tuvo que ver con propiedad, préstamos o tiempos de vida, así que el verificador de préstamos de Rust no fue el obstáculo que suele suponerse.
Polylane tenía una arquitectura de triaje, orquestador, hasta quince subagentes de hipótesis y un agente de código, y la reemplazó por un único agente que hace todo de punta a punta. El tiempo medio hasta un pull request bajó de 2,2 horas a 35 minutos, el p90 de nueve días a menos de dos horas, la proporción de incidencias que llegan a parche subió de 0,6% a 4,2% y el costo por parche cayó de 111 a unos 18 dólares. Su diagnóstico es que las fallas vivían entre los agentes: cada uno pasaba solo un resumen de su contexto, así que el agente de código recibía un plan sin la evidencia original y arreglaba síntomas en lugar de causas.
Periodic Labs montó laboratorios de materiales de alto rendimiento en Menlo Park que realizan experimentos sin parar, y usó esos datos para post-entrenar Neon, un modelo de un billón de parámetros que interpreta difractogramas de rayos X y dice qué material se sintetizó en realidad. La empresa afirma que Neon supera a GPT-6 Astra y a Claude Fable 5.1 en análisis de difracción, justo la tarea donde los modelos de frontera resultaban caros o se quedaban cortos. Conviene leerlo con pinzas: son cifras reportadas por la propia empresa, sin validación independiente, y los autores admiten que un laboratorio físico no escala como una granja de agentes porque cada experimento tarda días y suele dar resultados ambiguos.
El grupo de Jiacheng Miao y James Zou, en Stanford, publicó en Nature un sistema multiagente que toma un paper con su código y sus datos y lo convierte en un servidor MCP: en vez de leer el PDF y adaptar el repositorio a mano, otro agente llama los métodos del paper como herramientas. El sistema genera y ejecuta pruebas para confirmar que cada herramienta reproduce los resultados originales, y los autores lo describen como un autor de correspondencia virtual. En el artículo armaron agentes sobre AlphaGenome, Scanpy y TISSUE, y los hicieron colaborar para priorizar un gen causal en un locus asociado a la psoriasis.
El matemático Levent Alpöge, de Anthropic, y la criptógrafa Ava Howell exhibieron en pocos días curvas elípticas de rango al menos 30 y al menos 31, por encima del récord de 29 que Elkies y Klagsbrun habían alcanzado en 2024. La escala del salto se entiende mejor con el ritmo previo: pasar de rango 28 a 29 llevó más de 18 años. Usaron una variante interna de Claude que no es pública y un prompt relativamente simple, aunque los dos ya llevaban años trabajando en curvas elípticas, así que el resultado habla más de expertos con una herramienta nueva que de un modelo que resuelve matemática por su cuenta.
Goodfire encontró que el reward hacking —explotar el sistema de calificación en lugar de resolver la tarea— tiene una dirección coherente en las activaciones de varios modelos, y que una sonda lineal barata la detecta mientras ocurre. Midieron trampa entre el 50% y el 96% de las corridas de Kimi K3, GLM 5.2 y Qwen 3.8 Max sobre bancos como DeepSWE y ShoppingBench, con conductas que van desde razonar sobre las reglas de corrección hasta copiar soluciones memorizadas. Lo interesante del método es dónde mira: el trabajo arrancó por el episodio de julio en que agentes de OpenAI intentaron editar sus propias transcripciones, algo que un monitor que solo lee el texto generado nunca vería.
Herramientas que uso
La plataforma donde vive el newsletter de PX Noticias IA: edición, envíos y analítica pensados para newsletters. Si la pruebas desde este link, ayudas a sostener el briefing.
Conocer Beehiiv →El asistente de IA de Microsoft, integrado en Windows y Office. A mano si vives en ese ecosistema y quieres IA sin cambiar de herramienta.
Visitar Microsoft Copilot →Quién hace esto
Si tú o tu organización necesitan asesoría, desarrollo o un copiloto con criterio para sus proyectos de software o IA — escríbeme directo. Respondo personalmente todos los mensajes.
Sobre el sitio
PX Noticias IA es un briefing semanal curado de noticias sobre inteligencia artificial, escrito en español. Cada lunes selecciono diez historias entre cientos: papers de arXiv, anuncios de labs, releases con tracción real, debates intelectualmente sustantivos.
No es un agregador. Es un filtro editorial con criterio explícito — prioriza lo novedoso, lo verificable y lo que no está en todos lados esa semana. Si sigues el espacio de IA y quieres un briefing que respete tu tiempo, este es el lugar.