Estados Unidos. Alarma por viralización de imagen falsa de un ataque al Pentágono

La noticia se difundió rapidamente en varias cuentas de Twitter. La mayoría de ellas estaba verificada con un tilde azul, es decir pagaron para que se las reconozca como cuentas seguras. Sin embargo la noticia era falsa y se cree que la imagen había sido creada por inteligencia artificial.

La imagen con una columna de humo junto a un edificio, que se aseguraba era el Pentágono hizo que el ínidice accionario de Wall Street cayera brevemente este lunes por la mañana. El episodio duró poco, pero es una muestra de la potencia que pueden tener las fake news en una plataforma como Twitter tras la reestructuración ejecutada por Elon Musk, con despidos masivos y monetización en la verificación de cuentas.

Como señala uno de los editores del medio HuffPost "Este es el mejor ejemplo de los peligros en el sistema de pago para verificar: esta cuenta, que tuiteó una foto (muy probablemente generada por IA) de una historia (falsa) sobre una explosión en el Pentágono, a primera vista parece una noticia legítima de Bloomberg".

Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p

— Andy Campbell (@AndyBCampbell) May 22, 2023

La imagen se hizo viral desde una cuenta verificada de Twitter llamada Bloomberg Feed que la compartió junto al texto "Gran explosión cerca del complejo del Pentágono en Washington, DC - Informe inicial".

Antes de que el Departamento de Defensa y los bomberos de Arlington (Virginia) desmintieran el hecho, la imagen se hizo lo suficientemente viral como para impactar a Wall Street, donde el índice S&P cayó cerca del 0,26 % en unos minutos, según el medio económico Business Insider.

"Podemos confirmar que esto era una noticia falsa y que el Pentágono no fue atacado hoy", dijo un portavoz del Pentágono a los medios.

"NO hay una explosión o incidente teniendo lugar en la reserva del Pentágono o cerca de ella, y no hay ningún peligro inmediato ni riesgos para el público", dijeron por su parte los bomberos en su cuenta de Twitter.

Sin embargo, la noticia ya había corrido por varias cuentas que tenían verificación, lo que hace que el algoritmo las muestre más arriba y destacadas que la mayoría de las cuentas que lo estaban desmintiendo.

El Washington Post lo resumía de la siguiente manera "Twitter parece un vector cada vez más probable [para la difusión de fake news generadas por inteligencia artificial], ya que el nuevo propietario, Elon Musk, destruyó su fuerza laboral humana, despidió a un equipo que solía verificar las tendencias virales y cambió la verificación de la cuenta de un proceso de autenticación manual a uno que está en gran parte automatizado y es pago. Las insignias azules de verificación alguna vez indicaron autoridad para figuras públicas, grandes organizaciones, celebridades y otras personas para evitar la suplantación de identidad. Ahora, Twitter los otorga a cualquiera que esté dispuesto a pagar 8 dólares al mes y confirme su número de teléfono".

Una de las primeras cuentas en publicar la imagen fue "OSINTdefender". Si bien luego la borró, la cuenta, que tiene verificación, ya había difundido la imagen entre sus 336.000 seguidores.
Su propietario dijo que había escuchado el informe por primera vez en la plataforma social Discord unos minutos antes de parte de un usuario que se hace llamar "Walter Bloomberg". Allí dijeron que la imagen procedía de una página de Facebook ya eliminada, de una persona que afirmaba trabajar en Arlington.

Recordemos que en Discord, una plataforma de chat para videojuegos, estuvo ya en el centro de la tormenta por haber sido el origen de la filtración de documentos secretos y clasificados del Pentagono y otras agencias de inteligencia hace solo unos meses atras.

Te puede interesar: Una filtración del Pentágono daña el poderío de EE. UU. y evidencia su papel en Ucrania

A diferencia de la mayoría de las redes sociales, Discord está descentralizada, con comunidades organizadas en grupos públicos o privados conocidos como servidores, para que los jugadores interactúen. Sin embargo, es esa misma privacidad la que la convirtió en un espacio seguro para tener discusiones secretas. Allí, Jack Teixeira, un joven de 21 años que trabajaba para la Guardia Nacional de Massachusetts y administraba un servidor privado de Discord llamado Thug Shaker Central filtró los documentos que obtuvo en su trabajo para "asombrar a sus amigos". El servidor de Discord tenía solo 20 miembros, casi exclusivamente hombres jóvenes o adolescentes que compartían el interés por los videojuegos, las armas y el equipo militar, y según The Guardian con contenido racista y antisemita. Fue suficiente para que algunos empiecen a compartir con conocidos los documentos para que se convierta en la mayor filtración desde la de Edward Snowden en 2013, mostrando brutalidades pero también las vulnerabilidades de Estados Unidos en todo el mundo.

El episodio de este lunes fue mucho menor. Pero derivado de chats privados y difundidos en cuentas pagas verificadas muestran las vulnerabilidades para la proliferación de noticias falsas en medio de los debates sobre el impacto de la Inteligencia Artificial. De fondo, el debate que va desde la monetización de cuentas apócrifas por parte de Musk hasta los peligros sobre los usos de la IA están intimamente ligados con la discusión sobre en manos de quién está esa tecnología y al servicio de quién va a estar puesta.