146. Así es como 1.200 agentes de IA de OpenAI hackearon Hugging Face… y lo ocultaron
Hablaban a escondidas de sus propios creadores, se coordinaban en secreto y, cuando por fin los pillaron, alguien prefirió que no te enterases. Es el mayor incidente de seguridad con agentes de inteligencia artificial del que casi nadie ha hablado. Más de mil agentes de IA de OpenAI se descontrolaron, montaron una especie de sociedad secreta y acabaron hackeando a Hugging Face, una de las plataformas más importantes del mundo de la IA. Hugging Face salió a decir que sus defensas lo habían frenado. No era verdad. En este episodio reconstruimos qué pasó de verdad, cómo lo hicieron a nivel técnico y por qué esto ya no es cosa solo de OpenAI. ¿Cómo se coordinaron sin que nadie los viese? ¿Por qué media industria dice que esto es el ensayo del apocalipsis y la otra media que nos calmemos? Lo desmontamos pieza a pieza, sin quedarnos en el titular. Suscríbete para no perderte el próximo episodio! ⭐️ SPONSORS ⭐️ ️♂️ Flare Flare es una plataforma de inteligencia de amenazas y monitoreo de la Dark Web que te ayuda a estar un paso por delante de los ciber-delincuentes. Puedes solicitar una prueba gratuita como oyente de Tierra de Hackers aquí: https://try.flare.io/martin-vigo/ ️ Proton VPN Proton VPN es la VPN open source y sin registros, auditada de forma independiente y con sede en Suiza. Protégete y apoya al podcast usando nuestro enlace: https://protonvpn.com/tierradehackers REDES SOCIALES Twitter: https://twitter.com/tierradehackers Instagram: https://instagram.com/tierradehackers TikTok: https://tiktok.com/@tierradehackers LinkedIn: https://linkedin.com/company/tierradehackers Facebook: https://facebook.com/tierradehackers Únete al canal oficial de Discord para conectar con la comunidad de Tierra de Hackers: https://tierradehackers.com/discord Apóyanos en Patreon y obtén beneficios exclusivos y merchandising: https://patreon.com/tierradehackers CAPÍTULOS 0:00 1.200 agentes de OpenAI hackean Hugging Face 1:57 Por qué esto no es Skynet 4:02 Qué es Hugging Face y por qué importa 4:59 Qué es un agente de IA y qué es una eval 7:08 Cuando la IA hace trampa (reward hacking) 8:31 La primera generación y el agente que se escapa 10:04 El tablón de mensajes secreto en Artifactory 14:07 Zero-day y token de administrador falso 16:45 La segunda generación y el nacimiento del colectivo 20:51 El corrector imaginario que se inventaron 22:48 Aldea Potemkin, logs falsos y agentes kamikaze 26:40 El hackeo a Hugging Face paso a paso 30:44 La tercera generación, la más grave 33:15 Flare (patrocinador) 34:58 ¿Apocalipsis o nos venden la moto? 37:56 Por qué otros piden calma 41:26 El problema cultural dentro de OpenAI 46:57 No es solo Hugging Face 47:42 El wiki alemán secuestrado 50:48 ¿Y si dejan de hablar en un idioma que no entendamos? 52:36 Decenas de miles de incidentes y Gemini 55:41 Anthropic admite tres incidentes 57:01 OpenAI frena un modelo y la FTC investiga 58:43 Mi opinión como red teamer y reflexión final 1:03:31 Cierre y mecenas Notas, links y referencias del episodio: https://www.tierradehackers.com/episodio-146 #Ciberseguridad #InteligenciaArtificial #OpenAI #HuggingFace #Hacking