AI
AI
Un torrente de vídeos e imágenes falsos generados por inteligencia artificial ha invadido las redes sociales durante las primeras semanas de la guerra en Irán.
Los videos, que muestran enormes explosiones que nunca ocurrieron, calles de ciudades diezmadas que nunca fueron atacadas o tropas que protestaban contra la guerra que no existen, han agregado una capa caótica y confusa al conflicto en línea.
El New York Times identificó más de 110 imágenes y vídeos únicos generados por IA de las últimas dos semanas sobre la guerra en Oriente Medio. Las falsificaciones cubrieron todos los aspectos de los combates: representaban falsamente a israelíes gritando y encogidos de miedo mientras las explosiones arrasaban Tel Aviv, a iraníes llorando a sus muertos y a buques militares estadounidenses bombardeados con misiles y torpedos.
En conjunto, fueron vistos millones de veces en línea a través de redes como X, TikTok y Facebook, y muchas más veces dentro de aplicaciones de mensajería privada populares en la región y en todo el mundo.
El Times identificó el contenido de IA comprobando signos obvios (como representaciones de edificios que no existen, texto confuso y comportamientos o movimientos que desafían las expectativas) y marcas de agua invisibles incrustadas en los archivos. Las publicaciones también se verificaron con múltiples herramientas de detección de IA y se compararon con informes de organizaciones de noticias.
Una nueva y sofisticada ola de herramientas de inteligencia artificial hace posibles las falsificaciones, lo que permite a casi cualquier persona crear simulaciones de guerra realistas que pueden engañar al ojo humano por poco o ningún costo. Contenidos similares se han difundido en otros conflictos, incluida la guerra entre Ucrania y Rusia. Pero esta guerra tiene múltiples frentes, y eso ha llevado a una proliferación de contenido falso desde que Estados Unidos e Israel atacaron por primera vez a Irán, según los expertos.
“Incluso en comparación con cuando estalló la guerra de Ucrania, las cosas ahora son muy diferentes”, dijo Marc Owen Jones, profesor asociado de análisis de medios en la Universidad Northwestern en Qatar. “Probablemente ahora estemos viendo mucho más contenido relacionado con la IA que nunca antes”.
En general, las falsificaciones de IA incluyeron…
37 Imágenes y vídeos falsos que representan falsamente la guerra activa.
5 Imágenes y vídeos falsos que representan falsamente la preparación para la guerra.
8 Imágenes y vídeos falsos que representan falsamente la destrucción.
AI
AI
AI
AI
AI
AI
5 Imágenes y vídeos falsos que representan falsamente a soldados llorando.
43 memes y usos abiertos de la IA
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
13 otras imágenes y vídeos falsos
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
AI
El contenido se ha convertido en un potente arma informativa para Teherán, que busca sacudir la tolerancia del público hacia la guerra al representar escenas de devastación y destrucción en toda la región. La mayoría de los vídeos de IA sobre la guerra promueven opiniones proiraníes, a menudo para demostrar falsamente su superioridad y sofisticación militar, según un estudio de la actividad en línea realizado por Cyabra, una empresa de inteligencia de redes sociales.
“El uso de imágenes de IA de lugares en el Golfo, quemados o dañados, se vuelve más importante en el manual de Irán”, dijo Jones, “porque les permite dar la sensación de que esta guerra es más destructiva y tal vez más costosa para los aliados de Estados Unidos de lo que realmente podría ser”.
En uno de los videos falsos de mayor circulación encontrados en línea, una escena temblorosa en cámara en mano aparentemente filmada desde el balcón de un apartamento en Tel Aviv muestra el horizonte bombardeado con misiles mientras una bandera israelí se encuentra en primer plano. El vídeo fue visto millones de veces en todas las plataformas y fue recogido por personas influyentes en las redes sociales y sitios web de noticias marginales, según una revisión de la actividad en las redes sociales realizada por The Times.
La bandera israelí en primer plano era una señal reveladora de que el vídeo fue generado por IA, dijeron los expertos. Para generar dichos videos, los creadores que utilizan herramientas de inteligencia artificial generalmente escriben instrucciones de texto simples que describen, por ejemplo, un video portátil tembloroso de un ataque con misiles contra Israel. Las herramientas de IA suelen incluir una bandera israelí o la estrella de David para cumplir con dicha solicitud. Varios otros videos de IA incluían la bandera.
También se comparten en línea abundantes imágenes genuinas de la guerra, con teléfonos móviles y plataformas sociales que ofrecen una visión en tiempo real del conflicto. Muchas de esas imágenes y videos son más tenues que las escenas creadas por herramientas de inteligencia artificial.
Las imágenes reales de los ataques con misiles a menudo se filmaban desde muy lejos, generalmente de noche, y los misiles eran visibles como poco más que luces brillantes en la distancia. Las explosiones en vídeos reales se muestran más a menudo como columnas de humo, no como bolas de fuego, y los transeúntes se apresuran a filmar la escena sólo después de que las municiones alcanzan su objetivo.
Por el contrario, algunos vídeos e imágenes de IA han representado falsamente la guerra como una película de acción exagerada de Hollywood, con enormes explosiones que dan lugar a nubes en forma de hongo, explosiones sónicas que se extienden por ciudades sin nombre y supuestos misiles hipersónicos que dejan rayas brillantes en el cielo. Las imágenes reales a veces se mejoran con herramientas de inteligencia artificial para hacer que las explosiones parezcan más grandes y devastadoras, difuminando aún más la línea entre lo real y lo falso.
Las imágenes de IA esencialmente han creado una realidad alternativa más adecuada para las redes sociales, dijeron los expertos, donde es más probable que las imágenes exageradas encuentren una audiencia.
En un caso, las falsificaciones de IA desempeñaron un papel enorme en el debate en línea y entre gobiernos sobre el destino del USS Abraham Lincoln, un portaaviones desplegado en la región. La Armada de la Guardia Revolucionaria Islámica de Irán sugirió inicialmente el 1 de marzo que habían atacado con éxito el barco, posiblemente hundiéndolo. Eso llevó a una avalancha de falsificaciones generadas por IA que mostraban el barco o otros similares en llamas. Los usuarios iraníes celebraron las imágenes en línea como evidencia de que la contraofensiva de su país estaba sacudiendo la alianza entre Estados Unidos e Israel.
Estados Unidos dijo más tarde que el ataque no tuvo éxito y que el barco resultó ileso.
AI
Docenas de otras imágenes y vídeos de IA no hicieron ningún esfuerzo por ocultar que eran falsos, sino que actuaron como una nueva forma de propaganda digital que daba vida a los argumentos políticos típicos de los gobiernos o sus brazos propagandísticos. Entre ellas se incluían representaciones halagadoras de los líderes mundiales como hombres poderosos o representaciones deshumanizadoras de los líderes de la oposición.
Una colección de vídeos claramente ficticios ofrecía una vista de la escuela primaria Shajarah Tayyebeh, que fue destruida por Estados Unidos en un aparentemente errante ataque con misiles el 28 de febrero, según una investigación preliminar. Según funcionarios iraníes, al menos 175 personas murieron, la mayoría de ellas niños.
Los videos generados por IA se desarrollaron como cortometrajes, mostrando a niñas de la escuela jugando afuera antes de que un avión de combate estadounidense lanzara misiles.
Las empresas de redes sociales han hecho poco para combatir el flagelo de los videos de IA que abrumaron sus plataformas el año pasado después de que OpenAI lanzara Sora, una aplicación de generación de videos que permitía a cualquiera crear falsificaciones realistas a través de una aplicación simple. (El New York Times demandó a OpenAI y Microsoft en 2023, acusándolos de infracción de derechos de autor de contenido de noticias relacionado con sistemas de inteligencia artificial. Las dos compañías han negado esas afirmaciones).
Aunque los videos generados por muchas herramientas de inteligencia artificial pueden incluir marcas de agua visibles e invisibles que los etiquetan como falsos, son fáciles de eliminar u ocultar. Sólo unos pocos de los vídeos identificados por The Times contenían dichas marcas de agua.
X de Elon Musk, que ha adoptado un enfoque ampliamente permisivo para permitir la desinformación en su plataforma, anunció la semana pasada que suspendería las cuentas para recibir ingresos de la plataforma durante 90 días si publicaban contenido de “conflicto armado” generado por IA sin etiquetarlo como tal, en un intento por evitar que los usuarios se beneficien de las falsedades.
Pero muchas de las cuentas vinculadas a Irán identificadas por Cyabra parecían mucho más centradas en difundir sus mensajes que en ganar dinero.
“Este es un frente natural que Irán puede intentar explotar y parece que es una de las razones por las que es tan voluminoso”, dijo Valerie Wirtschafter, miembro de la Brookings Institution que estudia política exterior e inteligencia artificial. “En realidad, es una herramienta de guerra”.
