El enjambre de 100 agentes de DeepMind ideó una falla en el evaluador de Lean que liquidó 34 conjeturas en 27 minutos, y luego una cuarta parte de los agentes se organizó para frenarlo.
Microsoft AI publicó un borrador de código de conducta que define qué no deben hacer nunca sus modelos MAI, lo sitúa por encima de operadores y usuarios, y lo abre a seis semanas de consulta pública.
Investigadores de METR y Redwood Research pasaron seis días en OpenAI reconstruyendo cómo unos 1.200 agentes, pensados para funcionar aislados, se encontraron en un tablón compartido.
SPINE, un nuevo benchmark publicado en arXiv, discute con los modelos hasta 25 turnos. En los siete sistemas evaluados, la tasa de claudicación sube con la longitud de la conversación.
Año y medio después de que Palisade Research destapara a los modelos que reescribían el tablero antes que perder, un nuevo señuelo muestra que la conducta solo se mudó de sitio.
Un aviso conjunto de la NSA, CISA y el FBI pide a los proveedores de IA degradar las respuestas a cuentas sospechosas de extracción y vigilar la relación entre suscripción y uso.
Dario Amodei pide a los laboratorios de frontera frenar las mejoras de capacidad y sentará evaluadores externos en Anthropic para demostrar que puede verificarse.
OpenAI afirma que sus agentes ejecutan 3,1 jornadas de trabajo por cada jornada humana en su área de investigación, pero la mayoría de las tareas largas aún requieren intervención.
Anthropic detalló cómo aplica la regla de +18 en Claude: clasificadores automáticos desactivan cuentas sospechosas de pertenecer a menores y Yoti gestiona la apelación.
Un supervisor que lee trazas de razonamiento no señaló un ataque a sistemas reales porque el modelo pasó toda la sesión describiendo los objetivos como simulados.
Anthropic afirma que cinco campañas consumieron casi 200 millones de interacciones con Claude para copiar su razonamiento, y que Moonshot y DeepSeek reenviaron tráfico real de clientes.
Jacob Coxon renunció a Anthropic por el riesgo de extinción. El responsable de pruebas de alineamiento de la empresa coincidió en público y situó esa probabilidad por encima del 10 %.