Distinguer les faits de la fiction à l'ère numérique
Les capacités d'Airbus en matière d'intelligence cyber et des données massives contribuent à lutter contre la désinformation en ligne et les contenus dangereux générés par l'IA. L'entreprise a mis au point un démonstrateur qui entraîne les algorithmes d'intelligence artificielle à détecter les fausses informations. Elle coordonne un consortium européen qui contribuera à l'élaboration d'une boîte à outils européenne de lutte pour le cyber et l'information.
De nombreux messages montrent des files d'attente devant l'une des principales banques ukrainiennes, qui aurait interdit les retraits, ainsi que le piratage du site web de cette même banque. Fake news.
Une vidéo du président ukrainien Vladimir Zelensky a circulé sur les médias sociaux en mars 2022, donnant l'impression qu'il demandait aux citoyens ukrainiens de "déposer les armes". Une vidéo "deepfake" générée par l'IA
La propagande devient numérique
Mentionné dès le cinquième siècle avant Jésus-Christ par le stratège militaire chinois Sun-Tzu dans son livre "L'art de la guerre", le concept de propagande n'est pas nouveau. l s'agit d'une forme de communication utilisée pour promouvoir un programme ou un point de vue particulier, souvent de manière biaisée, trompeuse ou même fausse. I
Ces dernières années, cependant, les opérations d'information ont changé d'échelle, dépassant l'espace physique pour s'étendre au domaine numérique grâce à l'utilisation généralisée de l'internet et à l'arrivée des médias sociaux. Physiques ou digitales, ces deux types d'opérations offrent de nombreuses possibilités car elles peuvent influencer la perception des faits et modifier la prise de décision.
Le but ultime de ces campagnes de désinformation est d’ébranler nos valeurs et institutions démocratiques, ainsi que les politiques nationales, européennes et internationales
explique Charlotte Graire, responsable des ventes et du développement commercial pour la cyberdéfense chez Airbus Defence and Space.
La cyberguerre et guerre de l'information : le champ de bataille d'aujourd'hui
"Aujourd'hui, en particulier dans le contexte de la guerre hybride en Ukraine, des opérations d'influence et des campagnes de désinformation coordonnées visent les citoyens de l'Union européenne et du monde entier", prévient Charlotte Graire.
Le projet phare EUvsDisinfo a recueilli et démystifié plus de 16 000 cas de désinformation au cours des dernières années, depuis 2015.
La cyberguerre et la guerre de l'information (CIW) sont rapidement devenues l'un des domaines les plus stratégiques des conflits récents et constituent déjà une priorité pour l'OTAN et l'UE. Les équipes d'Airbus Defence and Space collectent et extraient déjà des données afin de fournir des renseignements aux ministères de la défense, à l'OTAN et aux agences de renseignement, y compris aux forces de l'ordre.
“Grâce à nos outils de multi-intelligence, nous avons l'habitude de découvrir des informations provenant de sources ouvertes : les réseaux sociaux, l'internet et le "deep dark web". Par exemple, nous pouvons identifier des contenus potentiellement dangereux, les transcrire et les traduire dans n'importe quelle langue", explique Guillaume Glorieux, chef de projet Intelligence chez Airbus. "L'objectif est de fournir à nos clients une base solide de connaissances et de conscience de la situation pour prendre des décisions stratégiques et tactiques sur le terrain."
La démocratie est un système qui repose sur l'information dont disposent les gens, car ils font leurs choix - leurs choix politiques - en fonction de leurs propres perceptions et des informations qu'ils reçoivent sur ce qui se passe dans le reste du monde. Si les informations sont toxiques, leurs choix sont biaisés [...]. Nous devons veiller à la qualité de l'information, car c'est la sève, le sang, l'huile, ce qui permet à la démocratie de fonctionner.
Josep Borrel, haut représentant de l'UE pour les affaires étrangères et la politique de sécurité, lors de la conférence cette année sur la manipulation et l'interférence de l'information étrangère.
Pour ceux qui luttent contre les "fake news" : Dignity Trust fait le tri entre les faits et la fiction
En s'appuyant sur les éléments constitutifs et l'expertise des équipes Intelligence et Cybersécurité, Airbus a développé le prototype de la plateforme en ligne Dignity Trust. Ce service, basé sur l'intelligence artificielle et l'apprentissage automatique, rassemble toutes les fonctions nécessaires pour vérifier rapidement et de source sûre la fiabilité d'un fichier média : une image, une vidéo, un texte ou un son. Il utilise des données synthétiques, c'est-à-dire des informations générées artificiellement, pour entraîner des algorithmes d'intelligence artificielle qui peuvent ensuite vérifier le fichier et indiquer la probabilité qu'il ait été altéré", explique Enrique Martínez, responsable de l'innovation au sein de l'équipe Incubateurs d'Airbus Defence and Space.
L'équipe de M. Martínez a élaboré le concept Dignity Trust et un démonstrateur sur la base des commentaires de journalistes d'investigation.
Nous sommes aux prémices de l'industrie de la vérification, mais nous avons certainement besoin d'un service permettant de hiérarchiser les informations qui doivent faire l'objet d'une enquête plus approfondie
Will Lewis, ancien PDG de Dow Jones and Company et éditeur du Wall Street Journal
Les journalistes ne sous-traiteraient jamais l’exactitude! Ce dont ils ont besoin, c'est de simples boîtes noires pour automatiser et accélérer leur travail
Sandy Macintyre, vice-présidente de l'information, directrice des initiatives clés à l'Associated Press
Suite à ce retour d'information, la plateforme de vérification en ligne a été testée avec une équipe d'agences de presse européennes.
En plus d'être utilisées par les journalistes pour lutter contre la désinformation en ligne, ces capacités pourraient également être utilisées pour protéger la confidentialité des données des utilisateurs sur les réseaux sociaux.
Le "deepfake" peut être utilisé comme une arme, car il permet d'usurper l'identité de n'importe qui", explique M. Martinez. C'est ce qui s'est passé en Espagne en septembre dernier, avec un épisode qui a suscité l'indignation générale, lorsque le procureur général a ouvert une enquête sur des images d'adolescentes nues générées par l'IA qui auraient été créées et partagées par certains de leurs camarades de classe du lycée dans le sud-ouest de l'Espagne.
EUCINF : une boîte à outils européenne pour lutter contre les contenus préjudiciables
Les algorithmes d'analyse développés dans le cadre de Dignity Trust sont en cours d'intégration dans les solutions Massive Intelligence d'Airbus. Parallèlement, ces résultats ont été précieux pour répondre à un appel à propositions des Fonds européens de défense : la boîte à outils de guerre cybernétique et informationnelle (EUropean Cyber INFormation - EUCINF - link). Ce projet a été attribué en juin 2023 à un consortium dirigé par Airbus, composé d'un groupe de 22 partenaires complémentaires de 12 pays, représentant neuf ministères de la défense.
En tant que démonstration de capacité, EUCINF mettra en œuvre trois scénarios opérationnels de cyberguerre et de guerre de l'information et définira des cas d'utilisation précis basés sur les exigences des utilisateurs finaux du ministère de la défense, en conformité avec les réglementations légales et les attentes de la société. Les spécifications techniques d'un système européen de boîte à outils pour la guerre de l'information et de la cybercriminalité découleront de ces exigences.
"L'EUCINF vise à accroître la résilience de l'Europe grâce à des capacités de connaissance de la situation, de contre-mesures et de gestion des missions contre les menaces hybrides, y compris la manipulation et l'interférence d'informations étrangères", résume Charlotte Graire.