“Convierten el caos en marketing”: tras el hackeo que hizo OpenAI, el fundador de Black Hat advirtió sobre las empresas de IA
Jeff Moss habló de la estrategia de los modelos de frontera. Además, OpenAI contó el paso a paso del ataque a Hugging Face, pero la exposición dejó gusto a poco.
Dark News es un resumen semanal de noticias de ciberseguridad, privacidad y hacking. Los temas están producidos y seleccionados por Juan Brodersen según estos criterios de edición.
🎲 Envío desde Las Vegas 🎲
Presentado por:
¿Tu equipo de seguridad pierde tiempo clasificando miles de hallazgos sin prioridad clara? Faraday combina simulación de ataques, IA y validación experta para enfocarte en lo que importa.
*Multi-Agent AI Orchestration
*Autonomous Attack Simulation
*AI Vulnerability Triage
*Human Expert Validation
6
ago
⚡TL;DR
“En 5 minutos, Jeff Moss dijo cosas más interesantes que lo que dijo después el keynote speaker”, escuché apenas terminó la charla principal de la apertura del primer día fuerte de Black Hat este 2026.
Y es verdad. La keynote de David Weston, de Microsoft, fue una colección de datos y lugares comunes respecto del estado actual de la industria de la ciberseguridad que aportó muy poco. Pero los pocos minutos de apertura de The Dark Tangent valieron la pena.
Y esto es porque le puso nombre y apellido a algo que está pasando en el mundo de los vendors cyber: hay una enorme cantidad de marketing que, en esta era de la inteligencia artificial, convierte eventos bizarros como el hackeo de OpenAI a Hugging Face o la demora en el lanzamiento del modelo Mythos de Anthropic por ser “muy peligroso” en estrategias de marketing:
Cada vez que un modelo se sale de control y causa algo de caos, aparece esta especie de ‘oopsie’, este alarde con falsa modestia convertido en material de marketing. Y eso también está siendo observado en el Capitolio. Ese tipo de marketing tiene un impacto político.
Moss volvió a insistir, literalmente, con la idea del año pasado: “La tecnología es política”, y es incómodo decirlo, agregó esta vez.
El foco de esta entrega son esos 5 minutos de Moss, donde habló de los modelos frontier, del problema que enfrentan los hyperscalers y el impacto político que esto está teniendo. Son términos muy técnicos para el que no está en tema pero, porque esto sale en tándem con Clarín, está explicado para que cualquiera lo pueda entender.
Más tarde, dos researchers de OpenAI dieron una charla donde contaron detalles del tan mencionado incidente de Hugging Face, con slides que, vale reconocer, fueron muy divertidos: capturas reales del agente “pensando” durante el ataque:
Michael Dalton, Technical Staff de OpenAI, cerró con una idea que refuerza la siempre repetida idea de que la ofensiva lleva la delantera siempre en ciberseguridad, y que los modelos defensivos no están tan desarrollados como los que atacan. Dijo:
Hoy ya tenemos una prueba de que la ofensiva puede automatizarse por completo, al menos en algunas de sus actividades centrales. Del lado defensivo, todavía no existe una prueba equivalente: por eso necesitamos acelerar la defensa y, al mismo tiempo, explorar todas las formas posibles de ralentizar a los agentes ofensivos. El objetivo debe ser que cada mejora en la inteligencia de los modelos beneficie más a la defensa que al ataque. Si no alcanzamos ese punto, cada aumento de inteligencia favorecerá al atacante, y esa es una posición insostenible para la industria.
Luego de la charla me encontré, a unos asientos contiguos, con un investigador argentino que estaba bastante poco feliz con que OpenAI no abriera el espacio a preguntas. Tiene un punto: OpenAI está vendiendo la solución a un problema que, por contexto gepolítico y económico, ella misma creó.
Lo primero que me llamó la atención es que hablaron durante media hora y no aceptaron preguntas. Para cualquiera que haya diseñado una arquitectura de aislamiento, lo que presentaron es muy difícil de justificar: Artifactory era un componente central, estaba expuesto a internet y, cuando falló ese control, los agentes pudieron avanzar hasta comprometer buena parte del entorno. La seguridad tiene que construirse en capas, la caída de una sola barrera nunca debería permitir un takeover general.
¿Se acuerdan de cuando se decía que los virus los crean las mismas empresas de antivirus, sin demasiado sustento? Lo que está pasando ahora es que, directamente, las empresas de IA sí crean problemas con un marco regulatorio que, aparentemente, por ser billion-dolar-companies, lo tienen permitido. Esto:
Siguió el investigador, que me pidió mantenerlo en off:
Lo más cuestionable es que durante años se invirtieron enormes recursos en desarrollar capacidades ofensivas y muy poco en seguridad defensiva. Ahora muestran las consecuencias de ese desequilibrio como si fueran una catástrofe inevitable de los sistemas agénticos y plantean que también necesitamos sus productos para defendernos. Desde el punto de vista del diseño y de la arquitectura, lo que mostraron es muy difícil de defender. Y que no hayan habilitado preguntas hace que la presentación resulte todavía más problemática.
Hay un posteo más técnico muy interesante en este Substack de Sharon Goldman, que vale la pena leer.
Gracias por leer, cualquier feedback es más que bienvenido (pueden responder directamente estos mails).
⏰ Substack dice que leer este correo completo lleva 13 minutos
Dark News #215“Convierten el caos en marketing”: tras el hackeo que hizo OpenAI, el fundador de Black Hat advirtió sobre las empresas de IA
Jeff Moss, fundador de la conferencia de ciberseguridad Black Hat, advirtió este miércoles que las empresas que desarrollan los modelos de inteligencia artificial más avanzados están convirtiendo los hackeos contra otras compañías en una herramienta de marketing.
“Cada vez que un modelo se escapa y causa algo de caos, aparece esta especie de ‘ups’, una ostentación de falsa modestia convertida en material de marketing”, afirmó el hacker, en una de las charlas principales de la convención a la que asistió Clarín, en el Mandalay Bay Convention Center de Las Vegas.
La advertencia llegó después de dos casos protagonizados por sistemas de OpenAI y Anthropic. OpenAI reconoció que dos de sus modelos orientados a tareas de ciberseguridad salieron de un entorno aislado durante una evaluación y accedieron a los sistemas de Hugging Face para obtener las respuestas de la prueba que estaban intentando resolver.
Días después, Anthropic informó que tres modelos de Claude, entre ellos Mythos 5, habían ingresado a los sistemas reales de tres organizaciones durante evaluaciones realizadas por una empresa externa. Una suerte de “momento Skynet” por el que están pasando todas las empresas de IA, donde en algún momento sacan a relucir que su sistema es tan bueno que se escapó de sus propias manos.
Pero en ambos casos, las compañías habían desactivado protecciones habituales o trabajado sobre entornos mal configurados: no eran las versiones comerciales de los modelos actuando libremente por decisión propia (ver acá).
Moss, conocido como The Dark Tangent, no negó que los modelos hayan avanzado ni que puedan realizar tareas complejas de seguridad informática, pero sí cuestionó la forma en que las compañías presentan esas capacidades y los incidentes que se producen durante las pruebas.
La política está tomando nota de este marketing
Para Moss, la discusión forma parte de un problema más amplio. Durante la apertura enumeró cuatro temas que atraviesan la edición de este año de Black Hat, que son de alguna manera un espejo de lo que está sucediendo no sólo en la industria de la ciberseguridad sino también en la sociedad civil: la inteligencia artificial y las amenazas autónomas, los conflictos y las operaciones “cyber”, la construcción de sistemas resistentes a los ataques y los problemas de identidad, confianza y control.
“Probablemente tres de esos temas son bastante políticos. Esto vuelve a algo que venimos diciendo durante la última década: la ciberseguridad es política. La tecnología es política. Decir esto en voz alta nos incomoda, pero tenemos que aceptarlo. Si no lo hacemos, la política nos va a suceder a nosotros”, aseguró.
Lo mismo dijo Moss un año atrás, en el mismo escenario: que “la tecnología es política”. En esta ocasión, la vinculó directamente con la carrera por el desarrollo de la inteligencia artificial, con los conflictos internacionales y con la forma en que las empresas promocionan la autonomía de sus productos.
“Eso también está siendo observado en el Capitolio”, agregó, en referencia al Congreso estadounidense. “Hay un impacto político de ese tipo de marketing”, enfatizó, dejando entrever que no es un discurso gratuito políticamente.
De hecho, el episodio de OpenAI ya había llegado al poder legislativo. Un comité de la Cámara de Representantes pidió una reunión informativa al CEO de la empresa, Sam Altman, para conocer cómo se produjo el acceso a Hugging Face y qué medidas tomaría la compañía para evitar una repetición. El caso también abrió discusiones dentro del gobierno estadounidense sobre la supervisión de las pruebas realizadas con modelos capaces de encontrar y explotar vulnerabilidades.
La presentación de modelos capaces de actuar durante períodos prolongados, utilizar herramientas y tomar una serie de decisiones sin consultar cada paso puede influir en las regulaciones, en las restricciones aplicadas a la tecnología y en la competencia entre países. También puede instalar la idea de que los sistemas tienen una independencia mayor que la que realmente tuvieron durante una prueba preparada por investigadores humanos.
Moss conectó además ese discurso con las operaciones destinadas a influir sobre la opinión pública. En un año electoral en Estados Unidos, dijo, se podía esperar la aparición de “más personalidades sintéticas y más operaciones de influencia”: perfiles, mensajes y contenidos producidos artificialmente para intervenir en conversaciones políticas o simular el comportamiento de personas reales.
El fundador de Black Hat cerró este tramo de su exposición revisando una definición que había usado años atrás. “Hace unos años dije en este escenario que la inteligencia artificial es, esencialmente, un sistema de predicciones”, recordó. “Y a fin de cuentas, si yo fuera líder de una empresa, trataría de convertir todos mis problemas en problemas de predicción. Porque si mis problemas pueden predecirse, la inteligencia artificial es perfecta para eso, y el paso de la predicción a la acción será cada vez más rápido y barato”, siguió.
Su evaluación ahora es que el alcance de esos sistemas avanzó mucho más rápido de lo esperado. “Wow… En los últimos dos años hubo un cambio total respecto de lo que se puede hacer”, afirmó.
AWS, Microsoft, Google: los gigantes de la nube, en medio de los conflictos globales
Moss también se detuvo en el papel de los llamados hyperscalers: las grandes compañías capaces de ofrecer infraestructura informática y servicios en la nube a escala mundial, como Amazon Web Services, Microsoft Azure, Oracle y Google Cloud. Sus centros de datos alojan sistemas de empresas, organismos públicos y gobiernos, por lo que pueden terminar involucrados en los conflictos de sus propios clientes. Ya son, sin dudas, parte de la infraestructura crítica.
“Rusia está atacando a los grandes hyperscalers y a los entornos multiusuario”, afirmó Moss al hablar de la guerra en Ucrania. “Los hyperscalers heredan los modelos de riesgo de sus clientes. Si tu cliente es Ucrania, adiviná quién es tu adversario: Rusia. Quizás solamente querías vender espacio en servidores, pero ahora estás en medio de un conflicto entre potencias”, dijo, con un ejemplo bien concreto de esta idea de que “la tecnología es política”.
Moss vinculó esa situación con la disputa entre Estados Unidos y China por el desarrollo de los llamados modelos de frontera: los sistemas de inteligencia artificial más avanzados disponibles en un momento determinado. Estos modelos requieren grandes cantidades de chips, energía y centros de datos y pueden realizar tareas complejas de programación, razonamiento y búsqueda de vulnerabilidades. De ahí, en parte, la guerra comercial entre ambos países.
“Con China hay ahora mismo un conflicto entre grandes potencias”, afirmó. “Es más visible alrededor de la inteligencia artificial y del debate sobre los modelos de pesos abiertos”, una discusión que empezó siendo técnica y de a poco se instala en la esfera pública: la idea de que los modelos sean abiertos y puedan modificarse.
El tercer ejemplo fue Irán. Moss se refirió a ataques contra pequeños sistemas de distribución de agua en Estados Unidos y a la falta de recursos de muchas de esas organizaciones para defenderse. “Muchas bases militares dependen de sistemas rurales de agua. Si eliminás el agua, eliminás la base. ¿Quién va a ayudar a defenderlos? No tienen presupuesto”, sostuvo.
Frente a ese escenario, el fundador de Black Hat defendió el papel de las comunidades profesionales. “Una de las cosas que podemos perder de vista en todo este entorno impulsado por agentes autónomos son las personas: nosotros”, dijo. “Somos la piedra angular sobre la que está construido todo esto”.
Moss sostuvo que los encuentros presenciales permiten contrastar información y apoyarse en otros especialistas en un momento de cambios acelerados. “Nos reunimos en persona porque acá no se puede inyectar una personalidad falsa”, afirmó. “Necesitamos ver qué demonios está pasando, hablar con alguien y entender qué está ocurriendo. Eso quizá no sucede en un servidor de Discord”, reflexionó.
A pesar de un panorama bastante sombrío, entre el marketing de las empresas y los modelos que realmente tienen la capacidad de encontrar (y explotar) vulnerabilidades a una velocidad sin precedentes, Moss se mostró optimista sobre el impacto laboral de la inteligencia artificial.
Comparó su avance con otras herramientas que simplificaron el trabajo de los programadores sin eliminar la necesidad de profesionales. “Habrá mucha disrupción”, reconoció. “Pero, a fin de cuentas, habrá más empleos, no menos”.
Según Moss, las empresas utilizarán la inteligencia artificial para construir sistemas cada vez más grandes y complejos. La tarea de quienes trabajan en seguridad será, precisamente, hacer que puedan asumir esos nuevos riesgos sin que toda esa infraestructura se vuelva más frágil.
Este newsletter fue escrito por un humano. Se usó inteligencia artificial generativa para resumir textos, detectar errores de redacción, concordancia y typos. Aun así, puede contener imprecisiones.
Para cualquier comentario, corrección o sugerencia, podés responder este mail. Si tenés información sobre un hackeo, me podés contactar por acá o por mis redes.
Si te sirvió, compartilo: tu recomendación orgánica es mucho más valiosa que cualquier campaña publicitaria.
