IA: nueva arma de desinformación en tiempos de guerra

 En medio de la guerra de Estados Unidos e Israel contra Irán, hay otra batalla que se libra en los medios digitales: la desinformación creada con inteligencia artificial. Hoy en día, esta tecnología no es sólo una herramienta útil para monetizar noticias falsas en redes sociales, sino también un arma de propaganda usada en el conflicto bélico. Sobre el polémico uso de esta tecnología, Gerardo Guzmán nos presenta el siguiente reporte.

Esto es una transcripción/edición del audio…

En estos tiempos de conflictos en el Medio Oriente, visitar TikTok, Instagram, YouTube, Facebook o X significa tener acceso a imágenes y sonidos como estos:

Explosiones espectaculares, gente corriendo y gritando en aeropuertos y balcones, reportes desde un reciente ataque de misiles. Lo único es que ninguno de estos videos es real, todos fueron generados con inteligencia artificial.

“Estamos viendo desinformación que incluye videos que son reales pero que no son de este conflicto y los hacen pasar como si fuesen real“

Una ola sin precedentes de desinformación generada por esta tecnología sobre la guerra de Estados Unidos e Israel con Irán inunda las redes sociales y otras plataformas digitales.

“Estamos viendo videos falsos creados con inteligencia artificial”

En su mayoría el objetivo es sacar una ganancia monetaria al atraer millones de visitas. Pero como nos describe Rafael Olavarría, verificador de Factchequeado, otros pretenden manipular el relato para beneficiar aún a los actores involucrados en el conflicto.

“Estamos viendo el uso de estas herramientas para entonces generar distintas narrativas falsas sobre lo que está ocurriendo en este conflicto”

Un ejemplo de manipulación con inteligencia artificial ocurrió con el ataque a la escuela primaria iraní al inicio de la guerra.

“Hemos visto desde imágenes que decían que eso nunca había ocurrido, que lo de la escuela había ocurrido en otro lado…”

Un misil estadunidense destruyó por completo el plantel educativo ubicado a un lado de una base militar. La agresión dejó más de 170 muertos, en su mayoría niñas. Sin embargo, el gobierno de Donald Trump negó responsabilidad alguna y acuso a Irán.

Olavarría explica cómo el equipo de Factchequeado y otros medios de verificación se encargaron de corroborar lo que ocurrió.

“Tenemos que decir a la gente cuando algo es falso, pero en esta guerra hemos tenido momentos en los que hemos tenido que decir a la gente no, esa imagen que están queriendo decir que es falsa, en realidad es verdadera, en realidad sí es una escuela”

Uno de los motores de confusión y manipulación en este y otros casos es Grok, la herramienta de inteligencia artificial creada por la plataforma X de Elon Musk.

“Mucha gente lo está utilizando para tratar de verificar cosas en tiempo real”

Muchos usuarios le solicitaban al chatbot que proporcionara o verificara afirmaciones relacionadas con los acontecimientos en el Medio Oriente. Sin embargo, como explica el verificador Olavarria, el sistema comenzó a alucinar.

“Y alucinar significa que te dé con completa seguridad una respuesta de la que no tiene ni la menor idea”.

 Lo que eleva el riesgo de errores como los detectados por Factchequeado.

Confunden, por ejemplo, las imágenes que fueron grabadas en Valencia, en España, como si fuese un bombardeo en un edificio en Beirut, en el Líbano.

Por eso esta contundente advertencia de Rafael Olavarría:

“Todas las partes involucradas están haciendo propaganda… es nuestra responsabilidad en este momento de tener mucho cuidado con lo que consumimos y con lo que compartimos; porque la cantidad de información manipulada que está en las redes sociales es altísima”

Para la Edición Semanaria de Noticiero Latino, Gerardo Guzmán.