Es el mayor incidente de seguridad con agentes de inteligencia artificial del que casi nadie ha hablado. Más de mil agentes de IA de OpenAI se descontrolaron, montaron una especie de sociedad secreta y acabaron hackeando a Hugging Face, una de las plataformas más importantes del mundo de la IA. Hugging Face salió a decir que sus defensas lo habían frenado. No era verdad. En este episodio reconstruimos qué pasó de verdad, cómo lo hicieron a nivel técnico y por qué esto ya no es cosa solo de OpenAI. ¿Cómo se coordinaron sin que nadie los viese? ¿Por qué media industria dice que esto es el ensayo del apocalipsis y la otra media que nos calmemos?
⭐️ SPONSORS ⭐️
🛡️ Proton VPN
Proton VPN es la VPN open source y sin registros, auditada de forma independiente y con sede en Suiza. Protégete y apoya al podcast usando nuestro enlace:
🌐 https://protonvpn.com/tierradehackers
🕵️♂️ Flare
Flare es una plataforma de inteligencia de amenazas y monitoreo de la Dark Web que te ayuda a estar un paso por delante de los ciber-delincuentes. Puedes solicitar una prueba gratuita como oyente de Tierra de Hackers aquí:
🌐 https://try.flare.io/martin-vigo/
📱 REDES SOCIALES 📱
Twitter: https://twitter.com/tierradehackers
Instagram: https://instagram.com/tierradehackers
TikTok: https://tiktok.com/@tierradehackers
LinkedIn: https://linkedin.com/company/tierradehackers
Facebook: https://facebook.com/tierradehackers
💬 Únete al canal oficial de Discord para conectar con la comunidad de Tierra de Hackers: https://tierradehackers.com/discord
💥 Apóyanos en Patreon y obtén beneficios exclusivos y merchandising: https://patreon.com/tierradehackers
📝 NOTAS Y REFERENCIAS 📝
- Comunicado oficial de OpenAI sobre el incidente de Hugging Face
- Investigación independiente de METR y Redwood Research sobre el incidente
- Análisis de Dwarkesh Patel, que fue quien popularizó lo de las tres civilizaciones
- Ajeya Cotra explica por qué el ataque sorprendió a los investigadores
- Cronología del incidente recopilada por Simon Willison
- Lo que OpenAI dejó fuera de su informe técnico
- Cómo los agentes de OpenAI atacaron Hugging Face, paso a paso
- Cientos de agentes de OpenAI invadieron los servidores de Hugging Face
- La responsabilidad humana en el incidente, desde Black Hat USA 2026
- Los problemas culturales que el incidente destapa dentro de OpenAI
- La ironía de tener que investigar a la IA usando más IA
- Reconstrucción técnica del exploit paso a paso, por s1r1us (Hacktron)
- Desmontaje técnico del exploit en vídeo, por LiveOverflow
- Vídeo de LiveOverflow sobre el tablón de mensajes y la coordinación entre agentes
- Informe de Anthropic reconociendo sus propios incidentes de alineamiento
- El paper «Large Language Models Do Not Always Need Readable Language»
- El secuestro del wiki alemán DseWiki por agentes de OpenAI, un incidente no divulgado
- Entrevista a Jacob Coxon, ex-Anthropic, sobre el temor a que la IA acabe matándonos a todos
- OpenAI y Anthropic investigan decenas de miles de incidentes de seguridad
- El primer breakout conocido de Gemini, que fue a por tres empresas reales
- Agentes de OpenAI hackeando webs de gobiernos por su cuenta, sin que nadie se lo pidiera
- Marco oficial de OpenAI para reportar el mal alineamiento de sus modelos
- OpenAI cancela el lanzamiento de un modelo por motivos de seguridad
- La carta abierta «We Must Pace the Frontier» de Dario Amodei, CEO de Anthropic
- La FTC abre una investigación a OpenAI, Anthropic y METR
- El hilo de Jeff Ladish sobre el casi millón de URLs con credenciales dejadas tras el ataque