Separar la realidad de la ficción en la era digital
Las capacidades cibernéticas y de inteligencia masiva de Airbus están ayudando a combatir la desinformación en línea y los contenidos nocivos generados por IA. La empresa ha desarrollado un demostrador que entrena algoritmos de inteligencia artificial para detectar noticias falsas. También está coordinando un consorcio de la UE que ayudará a dar forma a un conjunto de herramientas europeas para la guerra cibernética y de la información.
Múltiples mensajes mostrando colas de gente ante uno de los principales bancos de Ucrania, que supuestamente había prohibido retirar dinero, combinados con el pirateo de la página web del mismo banco. Noticia falsa.
En marzo de 2022 circuló por las redes sociales un vídeo del Presidente ucraniano, Vladimir Zelensky, en el que daba la impresión de que estaba diciendo a los ciudadanos ucranianos que "depusieran las armas". Vídeo deepfake generado por inteligencia artificial.
La propaganda se digitaliza
Mencionado ya en el siglo V a.C. por el estratega militar chino Sun-Tzu en su libro ‘El arte de la guerra’, el concepto de propaganda no es nuevo. Es una forma de comunicación utilizada para promover una agenda o perspectiva concreta, a menudo de forma sesgada, engañosa o incluso falsa.
En los últimos años, sin embargo, las operaciones de información han experimentado un cambio de escala, expandiéndose más allá del espacio físico hacia el ámbito digital mediante el uso generalizado de Internet y la llegada de las redes sociales. Ambos ofrecen una gran cantidad de oportunidades, ya que tienen el potencial de influir en la percepción de los hechos y alterar la toma de decisiones.
El objetivo último de estas campañas de desinformación es socavar nuestros valores e instituciones democráticas, así como las políticas nacionales, europeas e internacionales
afirma Charlotte Graire, Ventas y Desarrollo de Negocio Cyber Defence en Airbus Defence and Space.
Ciberguerra y guerra de la información: el campo de batalla actual
"Hoy en día, especialmente en el contexto de la guerra híbrida contra Ucrania, las operaciones de influencia y las campañas coordinadas de desinformación tienen como objetivo a los ciudadanos de la Unión Europea y del mundo en general", advierte Graire.
El emblemático proyecto EUvsDisinfo ha recopilado y desacreditado más de 16.000 casos de desinformación en los últimos años desde 2015
La guerra cibernética y de la información [CIW] se ha convertido rápidamente en uno de los dominios más estratégicos en los conflictos recientes, y ya es una prioridad para la OTAN y la UE. Los equipos de Airbus Defence and Space recopilan y extraen datos para proporcionar conocimientos de inteligencia a los Ministerios de Defensa, la OTAN y las agencias de inteligencia, incluidas las fuerzas del orden.
"A través de nuestras herramientas de multiinteligencia, estamos acostumbrados a descubrir información de fuentes abiertas: redes sociales, internet y la deep dark web. Por ejemplo, podemos identificar contenido potencialmente dañino y transcribirlo y traducirlo a cualquier idioma", afirma Guillaume Glorieux, director de proyectos de Inteligencia de Airbus Defence and Space. "El objetivo es proporcionar a nuestros clientes una base sólida de conocimientos y conciencia situacional para tomar decisiones estratégicas y tácticas sobre el terreno".
La democracia es un sistema que se basa en la información que tiene la gente, porque toman sus decisiones -sus decisiones políticas- en función de sus propias percepciones y de la información que reciben sobre lo que ocurre en el resto del mundo. Si la información es tóxica, sus elecciones estarán sesgadas [...]. Tenemos que cuidar la calidad de la información porque es la savia, la sangre, el aceite, lo que hace que la democracia funcione.
Josep Borrel, Alto Representante de la UE para Asuntos Exteriores y Política de Seguridad, en la Conferencia del SEAE de este año sobre manipulación e injerencia de la información extranjera
Para quienes combaten noticias falsas: Dignity Trust discierne los hechos de la ficción
Utilizando los conocimientos de sus equipos de Inteligencia y Ciberseguridad, Airbus ha desarrollado el prototipo de la plataforma en línea Dignity Trust. Este servicio, basado en inteligencia artificial y aprendizaje automático, reúne todas las funciones necesarias para comprobar de forma rápida y fiable la fiabilidad de un archivo multimedia: una imagen, un vídeo, un texto o un audio.
"Utiliza datos sintéticos, información generada artificialmente, para entrenar algoritmos de IA que luego pueden comprobar el archivo y definir la probabilidad de que el archivo haya sido manipulado", explica Enrique Martínez, jefe de proyectos de Innovación en el equipo de Airbus Defence and Space Incubators.
El equipo de Martínez construyó el concepto Dignity Trust y un demostrador basándose en el feedback de periodistas de investigación.
Estamos en los albores de la industria de la verificación, pero es evidente que necesitamos un servicio para priorizar qué información necesita más investigación
Will Lewis, ex director general de Dow Jones and Company y editor de The Wall Street Journal
Los periodistas nunca externalizarían la exactitud! Lo que necesitan son simples cajas negras para automatizar y agilizar su trabajo
Sandy Macintyre, Vicepresidente de Noticias y Directora de Iniciativas Clave de Associated Press
A raíz de estos comentarios, la plataforma de verificación en línea de Airbus se ha puesto a prueba en demostraciones con equipos de agencias de noticias europeas.
En el futuro, además de ser utilizada por los periodistas para combatir la desinformación en línea, estas capacidades también podrían emplearse para proteger la privacidad de los datos de los usuarios en las redes sociales.
"Los deepfakes tienen el potencial de convertirse en armas porque permiten suplantar la identidad de cualquier persona", afirma Martínez. Así ocurrió en España en septiembre de este año, con un episodio que causó indignación generalizada: un fiscal abrió una investigación sobre imágenes generadas por IA de adolescentes desnudas, supuestamente creadas y compartidas por algunos de sus compañeros varones de un instituto de Almendralejo, Extremadura.
EUCINF: una caja de herramientas europea para luchar contra los contenidos nocivos
Los algoritmos de análisis desarrollados en el marco de Dignity Trust se están integrando ahora en las soluciones de inteligencia masiva de Airbus Defence and Space. Al mismo tiempo, estos resultados han sido valiosos para responder a una convocatoria de propuestas de los Fondos Europeos de Defensa: la caja de herramientas para la guerra cibernética y de la información (EUCINF - link). Este proyecto se adjudicó en junio de 2023 a un consorcio dirigido por Airbus, formado por un grupo de 22 socios de 12 países, que representan a nueve Ministerios de Defensa.
Como demostración de capacidad, EUCINF implementará tres escenarios operativos de guerra cibernética y de la información (CIW) y definirá casos de uso precisos basados en los requisitos del usuario final del Ministerio de Defensa, de conformidad con la normativa legal y las expectativas de la sociedad. De estos requisitos se derivarán las especificaciones técnicas de un sistema europeo de herramientas CIW.
"El objetivo de EUCINF es aumentar la resiliencia europea mediante el conocimiento de la situación, las contramedidas y las capacidades de gestión de misiones frente a amenazas híbridas, incluidas la manipulación y la interferencia de información extranjera", resume Charlotte Graire.