Black Hat USA 2024: “La IA va a intensificar los riesgos sobre las elecciones pero no va a crear nuevos”
Black Hat USA 2024: “La IA va a intensificar los riesgos sobre las elecciones pero no va a crear nuevos”
Dark News asistió al keynote con Jeff Moss y Jen Easterly, de CISA. Los procesos electorales y su seguridad, entre deepfakes y desinformación, bajo la lupa.
Dark News es un resumen semanal de noticias de ciberseguridad. Los temas están producidos y seleccionados por Juan Brodersen según estos criterios de edición.
Edición especial - Cobertura Black Hat USA 2024 y DEF CON 32 desde Las Vegas, Nevada.
8 ago
⚡ TL;DR
“Una gran cantidad de países tienen elecciones este año: cerca de 2 mil millones de ciudadanos van a ir a las urnas. Algunos como India ya votaron, otros como Estados Unidos se preparan para elegir presidente en unos meses. Por eso cabe la pregunta: ¿qué significa votar en este ecosistema y cómo asegurar los procesos electorales”, disparó Jeff Moss (The Dark Tangent), fundador de Black Hat cerca de las 9.15 am del miércoles. Fue la apertura oficial de la edición 2024 de Black Hat USA, que tuvo un panel donde la directora de la CISA, la agencia de ciberseguridad norteamericana, fue la principal figura.
Sin convertir a esta publicación en un diario de viaje, sí me parece interesante contar las condiciones de producción de las entregas que se están por venir para que el lector tenga el panorama completo y entienda por qué, más allá del esfuerzo, hay muchas cosas que van a quedar por fuera. Y otras en las que habrá particular foco, como las investigaciones y exposiciones de argentinos.
Llegué el lunes al mediodía a Las Vegas y, esta vez, no me hospedé en el strip (la avenida principal, del Caesars Palace y todos esos hoteles famosos) sino en una zona alejada. Más precisamente, cerca de Spring Valley, donde creció Andre Agassi (para quien no haya leído su autobiografía Open, va la fuerte recomendación de hacerlo). Ahora entendí por qué ese hombre detestó el tenis toda su vida: el lunes hizo 46 grados. Caminé 20 minutos cerca de las 4 de la tarde para comprar víveres y casi me desmayo.
Como sea, la elección tuvo que ver con armar un “búnker” periodístico alejado del ruido. Y con que, para ser honestos, era muchísimo más barato que ir al Strip (sobre todo reservando dos días antes de viajar). Lunes y martes fueron de adaptación. Hoy, miércoles, ya empezaron los días cargados: llegar a la mañana temprano y terminar el día tomando una (o dos) cervezas junto a hackers, researchers y miembros de las empresas de ciberseguridad más grandes del mundo.
El lunes me pude dar una vuelta por Black Hat, más que nada para retirar la acreditación y algunas compras que había hecho por Amazon.
me tiró el dato de que el Mandalay Bay recibe paquetes, incluso si no te hospedás en el hotel (datazo, funciona 10 puntos). Es bastante raro el panorama esos días (que son de trainings, la conferencia propiamente dicha arrancó hoy con el keynote que cuento más abajo). Pasillos prácticamente vacíos, salas llenas de asistentes pero en modo “clase”, prácticamente una visita a un curso universitario.El martes me quedé todo el día en el “búnker”, preproduciendo: armando placeholders de notas, aquellos tópicos que sé que voy a cubrir como las keynotes o algunas charlas que seleccioné, a las que quiero ir e intentar cubrir para encontrar focos periodísticos y traerlos a Dark News.
Tanto Black Hat como DEF CON son una fuente casi infinita de charlas, recursos, encuentros y “situaciones”. Lo que quiero decir con esto último es que lo mejor de ambos eventos no es tanto las charlas, sino todo lo que gira alrededor: conocer a hackers e investigadores que solemos ver a través de la pantalla, visitar las “villas”, preguntar y aprender. Algo de esto conté el año pasado, cuando vine a exponer un trabajo y cubrir el evento.
Abajo, el resumen de la charla principal, en un día donde dos empresas argentinas expusieron herramientas que serán parte de otra entrega para contar con más detalle.
Apenas arrancó la semana hubo, eso sí, dos noticias de peso que no quiero dejar de mencionar, ya que estas entregas no van a tener tanto foco en la actualidad sino en el Hacker Summer Camp.
Por un lado, un juez del distrito de Washington sentenció que Google es un monopolio ilegal en lo que a búsquedas respecta. Es una decisión de peso que inundó titulares de medios de todo el mundo. Y, por el otro, salió a la luz que Nvidia scrapeó “una vida humana” en video (YouTube) por día para entrenar a sus productos relacionados a inteligencia artificial. Se trata de la empresa fundamental del desarrollo de la IA de este último tiempo, en tanto sus chips son los caballos de fuerza que mueven la maquinaria de toda esta industria, sea quien sea que la desarrolle (OpenIA, Meta, Google, Amazon, etc.)
Para no perder la costumbre, sobre el final dejo links de actualidad que van a suplir el repaso habitual de esta publicación (es decir, van a tener menos desarrollo).
Y una última aclaración: la mayoría de los temas que publique estos días salen en tándem en Clarín, sólo que adaptados a distintos públicos. Básicamente, esto se debe a que toda la cobertura la realiza la misma persona.
Dark News #94
Leer este correo te va a llevar 12 minutos.
Con años de experiencia en diagnóstico y solución de problemas IT, Buanzo Consulting trabaja en la detección temprana de vulnerabilidades y fallos en redes. Con experiencia en el mundo del código abierto y la innovación, ofrece consultoría orientada a soluciones precisas y personalizadas, asegurando que los proyectos no sólo sobrevivan, sino que prosperen.
🥷 Deepfakes, elecciones, Rusia y hasta Argentina en el keynote de Black Hat USA 2024
Jen Easterly, directora de la agencia de ciberdefensa de Estados Unidos, se refirió a Argentina en la charla de apertura de Black Hat USA 2024, una de las conferencias de hackers más importantes del mundo: “Hemos visto usos de inteligencia artificial (IA) generativa en Moldavia, Eslovaquia y Argentina y si bien esto tuvo un impacto en las elecciones, la IA va a intensificar los riesgos pero no va a crear nuevos”.
La referencia a Argentina fue por la creación de imágenes y videos de los espacios políticos del por entonces candidato Sergio Massa y el actual presidente de la Nación, Javier Milei, en la que ambos compartieron representaciones generadas con programas como Midjourney. Allí se podía ver a Massa como un prócer o como un líder soviético, según quién hubiese escrito el “prompt” (la instrucción para la IA).
“Venimos lidiando con esto también en Estados Unidos, en las primarias de New Hampshire un consultor envió mensajes pregrabados con la voz de Joe Biden generada por IA en la que se emitía un mensaje para que no voten”, agregó. Su mención a Moldavia es porque en el país de Europa del Este un video hecho con IA se coló entre los candidatos y en Eslovaquia un audio falso en el que un candidato habla de subir el precio de la cerveza se volvió viral.
Las declaraciones fueron en el contexto de la apertura de la edición 2024 de Black Hat en Las Vegas, a la que asistió Dark News. Se trata de una de las conferencias de hackers más grandes del mundo, que alberga a más de 20 mil profesionales de la ciberseguridad, hackers y pesos pesados de la industria como Microsoft, IBM, Cisco, Trend Micro, SentinelOne y otras.
La temática de este año tiene que ver con las elecciones. “Este año es muy particular, único. Es el año en el que la mayoría de los países democráticos votan. Cerca de 2 mil millones de ciudadanos votan este año. En algunos ya se votó, como en India, y en otros se va a votar, como en Estados Unidos. Y por eso cabe la pregunta: ¿qué significa votar en este ecosistema y cómo asegurar los procesos electorales”, disparó Jeff Moss, fundador de Black Hat (The Dark Tangent).
Easterly, directora de la CISA (Cybersecurity and Infrastructure Security Agency), la entidad que maneja la ciberseguridad a nivel estatal en Estados Unidos, se refirió a las dificultades que enfrentarán las elecciones nacionales en su país, que se llevarán a cabo el 5 de noviembre de este año.
“Puedo decir con confianza que el proceso electoral en Estados Unidos nunca ha sido tan seguro como ahora. Pero no podemos relajarnos, en tanto el ecosistema de amenazas es más complejo que nunca y adversarios extranjeros tratan de influir en nuestras elecciones mediante desinformación y operaciones”, aseguró ante un auditorio lleno en el Michelob Ultra Arena, un estadio ubicado en el Mandalay Bay Convention Center.
También participaron de la charla de apertura Hans de Vries, COO de la agencia europea de ciberseguridad, la European Union Agency for Cybersecurity (ENISA) y Felicity Oswald, de la agencia británica National Cyber Security Centre (NCSC). Moderó la periodista de la agencia de noticias Associated Press, Christina A. Cassidy.
🗳 Elecciones y desinformación: las amenazas
El tema electoral es particularmente relevante para América Latina, en tanto Venezuela atravesó un proceso electoral cargado de polémica, donde el voto electrónico fue protagonista. Allí se usa este sistema desde 2004 para todas las elecciones nacionales, regionales y locales, e incluso hasta 2017 una empresa argentina era la encargada del sistema digital de votación, Smartmatic (que luego pasó a manejarlo ExClé). En las elecciones del domingo 27 de julio, Nicolás Maduro apareció 13 veces encabezando distintas boletas y no hubo una auditoría sobre el conteo.
Con una carrera en la armada de 20 años, Easterly tiene experiencia en el mundo de la ciberseguridad y sirvió en el United States Cyber Command en 2009. Luego fue asesora especial del presidente Barack Obama entre 2013 y 2016, para pasar al sector privado de la división de ciberseguridad de Morgan Stanley. En 2021 volvió a la función pública luego de la designación como directora de la CISA, la segunda en la historia de la agencia, de la mano de Joe Biden.
Un tema que fue mencionado en dos ocasiones en el discurso de Easterly fue la influencia de actores relacionados a Rusia que intentan incidir en los procesos electorales de Occidente. “Rusia, en particular, utiliza compañías comerciales como agencias de publicidad y prensa para disimular su influencia al emitir sus mensajes y “difundir desinformación”.
“No trabajamos directamente con contenido para decir qué es información y desinformación. Lo que nos interesan son las tácticas que usan los adversarios para difundir desinformación y allí es donde encontramos estas estrategias de relaciones públicas”, advirtió Easterly.
Estados Unidos viene insistiendo de manera particular sobre este tema. En noviembre de 2023, denunció una “campaña de desinformación rusa” en América Latina. Apuntó contra una empresa que, dicen, escribe “noticias pro-rusas” en medios de dudosa procedencia y apuntó contra un periodista. “En este tema, como en muchos otros, EE.UU. va de mal en peor”, había respondido la Embajada de la Federación de Rusia en Argentina.
“¿Qué significa tener elecciones seguras, incluso si tenés problemas técnicos o hasta un ciberataque?”, preguntó Cassidy, la periodista de AP, al moderar el debate.
“Las elecciones son procesos muy complejos. Tenemos miles de trabajadores electorales, cientos de miles de centros de votación. 150 millones de estadounidenses van a votar este año en las elecciones generales. Las cosas van a salir mal. Se los garantizo: van a salir mal. Alguien va a olvidar una llave, va a desconectar una impresora para calentar su almuerzo, va a haber un DDoS o hasta puede haber un ransomware”, sentenció Easterly.
“Lo bueno es que los trabajadores electorales son gestores de crisis por naturaleza. Se preparan para estos procesos durante muchísimo tiempo y saben cómo reaccionar ante estas disrupciones”, cerró.
🕵 Black Hat 2024: elecciones y privacidad, los focos
Black Hat es una de las conferencias más importantes de ciberseguridad del mundo. Tiene ediciones en Europa (Londres), Asia (Singapur) y Estados Unidos (Las Vegas). Se trata de una conferencia que dura una semana, aunque los primeros días son de entrenamientos específicos, donde expertos dan clases, hacen talleres y se discuten las últimas investigaciones y técnicas de hacking y métodos asociados a ciberseguridad. Es una parte importante del evento, pero más orientado en validar certificaciones para tener las últimas habilidades que demanda la industria.
Luego, comienzan las charlas y presentaciones, que es lo que suele atraer a los medios de comunicación porque se dan a conocer investigaciones que llegan a las noticias. Esta semana, el miércoles fue el día de apertura con una charla dedicada a elecciones y seguridad en los comicios, junto a los desafíos que plantean la inteligencia artificial y su rol en los deepfakes y la desinformación. Una de las novedades de este año es que la inteligencia artificial tiene su propio “track” (espacio dedicado con charlas, discusiones y workshops).
Desde el año pasado, la inteligencia artificial venía siendo un problema para la comunidad de la ciberseguridad. “Hay una carrera armamentista corporativa por la IA pero no impulsada por la seguridad: se sigue el lema ‘movete rápido y rompé cosas’, pero los modelos de lenguaje de inteligencia artificial (IA) son como adolescentes problematizados”, había dicho en la apertura de la conferencia Maria Markstedter, investigadora experta en ciberataques y vulnerabilidades.
Este año, la charla de apertura no tocó tanto el tema de la IA, pero sí se refirió a los problemas de los deepfakes y la desinformación.
Lo que sí tuvo un fuerte componente de IA fueron las charlas dedicadas a expertos y los talleres (workshops), desde los dos ángulos: tanto sus usos para detectar, monitorear y prevenir ciberataques, como los abusos que se pueden hacer de ella para atacar sistemas.
Durante la edición del año pasado, Las Vegas albergó cerca de 20 mil asistentes de 127 países en el Mandalay Bay Convention Center, centro de convenciones de uno de los hoteles más populares del Strip, la avenida principal de la ciudad de las luces.
Mañana, en Dark News: el fundador de la conferencia Jeff Moss tendrá una charla con Moxie Marlinspike, fundador de Signal. Reportaje especial desde Las Vegas.
Dos perlitas:
HUMAN hizo una campaña que destacó entre todas las empresas. Mientras que la mayoría de las compañías de ciberseguridad usa tipografías futuristas o cyberpunk, la empresa que se dedica a protección de dispositivos y threat intel usó una completamente distinta: una suerte de bestiario con ilustraciones originales en una estética de boticaria antigua.
El booth de Crowdstrike, repleto para conseguir remeras y los muñequitos de la compañía. Como suele decirse: no existe la mala publicidad.
Y, por último, un “scattered spider” gigante entre servers: fue la amenaza que atacó, precisamente, las cadenas hoteleras MGM y Caesars Entertainment.
Prometo mañana más imágenes de los booths.
🔗 Más info
Breachean una plataforma educativa y borran clases de 13 mil dispositivos
Un ciberataque afecta el museo Grand Palais de París
Microsoft le contesta a Delta Airlines, que se quejó por el incidente de Crowdstrike
Google arregla un zero day de Android
Microsoft elevó el pago de su programa de bug bounties por 16.6 millones de dólares
