Utilisation abusive de l’IA aux fins de menacer l’aviation civile

Situation de la menace et développements actuels

Durant l’année sous revue, l’utilisation abusive de l’IA par des extrémistes et des organisations criminelles est un phénomène toujours plus présent. L’IA peut tout à fait être utilisée pour des applications légitimes. Toutefois, on a vu ces derniers mois que des groupes extrémistes recourent de plus en plus à des outils d’IA pour recruter, faire de la propagande et de la planification tactique (cf. ISIS teaching recruits how to use AI ‘responsibly’ – POLITICO).

​

Manipulation d’identités, de documents et de systèmes d’accès

• Mystifier le personnel par des deepfakes : à l’aide de deepfakes générés par l’IA, des attaquants peuvent tromper le personnel de l’aéroport en se faisant passer pour des cadres supérieurs ou des agents de sûreté lors d’un appel vidéo ou téléphonique. Ces attaques visent à soutirer des informations confidentielles ou des données d’accès.

• Risques pour les systèmes d’identification biométriques : les aéroports recourant de plus en plus à la reconnaissance faciale, il y a un risque que des images deepfakes ou des identités synthétiques trompent aussi les scanners biométriques, et qu’il en résulte un accès non autorisé aux zones de sûreté.

​

Obtention d’informations et planification opérationnelle au moyen de l’IA

Les extrémistes utilisent l’IA afin de peaufiner ou traduire du matériel existant, dont de la propagande, des instructions tactiques ou des informations opérationnelles, ou les transposer dans de nouveaux formats. D’autres possibilités d’application incluent :

• l’analyse de données publiques sur l’infrastructure aéroportuaire, les procédures ou le personnel ; 

• la rédaction de faux manuels semblant véritables ;

• l’optimisation des stratégies de diversion ou de mystification.

​

L’IA comme amplificateur opérationnel

• Grande campagne de cyberespionnage autonome pilotée par l’IA, qui exécute elle-même 80 à 90 % des activités d’attaque

• Vol automatique de mots de passe facilité par l’IA, maliciels polymorphes et scans à grande échelle

​

Utilisation de l’IA par les autorités de sûreté

L’utilisation ciblée de l’intelligence artificielle peut fournir une aide considérable aux autorités de sûreté pour analyser efficacement de grandes quantités de données, détecter les risques en amont et améliorer les décisions opérationnelles. L’IA sert d’outil d’analyse, mais ne remplace pas l’expertise humaine.

 

Gain d’information et analyse

L’IA permet l’analyse structurée de sources publiques volumineuses (OSINT), qui englobent les portails d’actualités, les contenus des médias sociaux, les forums, les vidéos, les enregistrements audio et d’autres sources librement accessibles. Les modèles modernes peuvent résumer des informations, reconnaître des schémas, identifier des tendances et analyser des contenus en d’autres langues, permettant ainsi de détecter plus rapidement les évolutions et de les prioriser.

Recherches ciblant des personnes

En analysant automatiquement des données publiques, l’IA peut fournir une image générale d’une personne, en détaillant par exemple ses activités en ligne, ses réseaux, ses thématiques préférées ou ses schémas de communication. Il y a cependant des limites à ne pas dépasser lorsque des données non publiques ou protégées sont concernées : celles-ci ne doivent pas être saisies dans des systèmes d’IA externes.

 

Exploration de nouveaux médias

L’IA facilite l’analyse de sources de données qui étaient difficiles à analyser jusqu’ici, comme les plateformes de clips vidéo, les communautés en ligne multilingues, les images et les mèmes, ou encore les enregistrements vocaux. Il est ainsi possible de détecter plus rapidement des narratifs, des tendances potentiellement à risques et de nouveaux espaces de communication.

 

Risques et défis

• Protection des données et sphère privée : les contenus qui sont saisis dans les systèmes d’IA peuvent être enregistrés ou repris ailleurs dans le monde. Les données sensibles ou les données personnelles ne doivent pas être utilisées sans une vérification stricte.

• Informations erronées et hallucinations : l’IA peut générer des affirmations imprécises ou erronées. Les résultats doivent toujours être vérifiés par des analystes.

• Biais et erreurs d’analyse : les distorsions dans les données d’entraînement peuvent produire de fausses estimations.

• Dépendance : l’IA ne doit pas remplacer l’expertise, le contrôle humain reste indispensable.

Reconnaître les informations erronées

Les outils d’IA peuvent servir de soutien pour identifier des contenus manipulés. Des anomalies visuelles et de contenu (par ex. artefacts, ombres incohérentes, déclarations contradictoires) doivent toujours être vérifiées manuellement. La recherche reverse image, l’analyse des métadonnées et les détecteurs de deepfakes peuvent servir d’instruments complémentaires, mais jamais d’aide unique à la décision.

Un autre danger des deepfakes et des fake news ciblés est qu’ils peuvent discréditer de vraies informations. Des outils de vérification factices semblant véritables sur le plan technique présentent de vraies preuves comme étant manipulées, afin de saper la confiance dans tout le paysage de l’information. À l’extrême, on pourrait finir par arriver à une situation où personne ne croit plus rien, puisque même ce qui est authentique paraît suspect.

 

Défis futurs et leçons tirées

De futurs développements comme des deepfakes en temps réel, des données OSINT dissimulées et des contenus de plus en plus multimodaux exigeront une capacité d’analyse augmentée et des compétences techniques de plus en plus pointues. Comme le montrent les premières expériences, l’IA augmente considérablement l’efficience et la vitesse de réaction, mais à condition d’avoir des processus clairement définis, du personnel qualifié et un contrôle qualité strict. L’analyse critique et la vérification des sources restent indispensables.