International Sciences

Deep fakes. L’aube de la désinformation globale ?

TECHNOLOGIE. Le deep fake permet de remplacer la voix et le visage d’une personnalité, de manière ultra réaliste. Elle représente un enjeu important dans la diffusion de fausses informations sur les réseaux sociaux et dans les médias. Et pourrait être utilisée comme outil de désinformation par les gouvernements.

 

Copier le visage et la voix d’un individu en les calquant sur une autre personne, voilà comment fonctionnent les deep fakes. Une technologie encore en voie de développement, qui représenterait une grave menace concernant la diffusion de fausses informations sur les réseaux sociaux et dans les médias. Ces nouvelles techniques pourraient avoir des répercussions à l’échelle internationale : désinformation, tromperie dans les relations entre les gouvernements… Les décideurs devront se charger du dossier pour éviter toute sorte de dérapage diplomatique.

Test de la technique ‘deep fake’ sur Barack Obama

 

La menace des deep fakes sur les processus démocratiques

La puissance des outils informatiques double tous les deux ans selon la loi de Moore. La capacité d’utiliser les nouvelles technologies pour calomnier, détruire des réputations, ou encore s’ingérer dans les rendez-vous électoraux des États démocratiques augmente. L’influence des deep fakes pourrait avoir un impact important sur la crédibilité des politiciens se présentant à des postes de pouvoir. Notamment du fait d’accusations mensongères propagées par des puissances étrangères. Selon les juristes américains Robert Chesney et Danielle Citron (2019)¹, les effets de la diffusion des deep fakes à l’encontre d’un homme politique se présentant à une élection — quelques heures avant un scrutin — pourraient avoir des conséquences significatives sur les résultats électoraux et le choix des votants.

En 2017, pendant l’élection présidentielle française, l’équipe d’Emmanuel Macron a été victime d’une campagne de désinformation orchestrée par des hackers russes afin de diminuer la crédibilité du candidat. Des documents volés étaient utilisés, majoritairement truqués, afin d’influencer les résultats de l’élection. Selon les auteurs, cette tentative a échoué du fait de la réaction rapide des équipes de campagne de Macron et du contenu relativement ennuyant des fuites. L’utilisation de deep fakes quelques heures avant une élection pourraient avoir des conséquences bien plus fortes. Diffusée en masse sur les réseaux sociaux quelques heures avant une échéance électorale, une vidéo truquée d’un candidat acceptant un pot de vin ou proférant des propos scandaleux, pourrait bousculer l’élection.

Le scénario est fortement probable du fait des progrès effectués dans le domaine de l’intelligence artificielle (IA), notamment via le machine-learning, permettant de transposer le visage d’un individu sur un autre corps tout en imitant la voix de l’individu-cible. Les deep fakes sont l’outil de diffamation parfait, du fait de leur réalisme et de la possibilité quasi-illimitée de faire accomplir à la victime n’importe quel type d’acte truqué. Les décideurs et législateurs doivent agir efficacement pour préserver la bonne tenue des processus démocratiques contre ces nouveaux moyens de désinformation.

Vidéo du Wall Street Journal présente le ‘deep fake’ ses impacts 

Crises diplomatiques et guerres psychologiques

Le réalisme et la qualité des contenus vidéos et audios truqués ne cesse d’augmenter. Les deep fakes pourraient catastropher la sécurité internationale. Garlin Gilchrist², directeur exécutif du Centre pour la responsabilité des réseaux sociaux à l’Université du Michigan met en garde contre les effets néfastes que pourraient avoir les deep fakes sur la diplomatie internationale. Il prend l’exemple de la fausse alerte déclenchée accidentellement à Hawaï en 2018. Elle avertissait la population de l’imminence d’une frappe nucléaire sur l’île — dans le contexte des tensions avec la Corée du Nord. Reprenant cet exemple, Gilchrist met en évidence les conséquences possibles qu’entraînerait la diffusion d’une vidéo truquée montrant des leaders américains ou nord-coréens décider d’une telle frappe nucléaire contre le pays adverse.

Incompréhension entre gouvernements et pouvoir de désinformation joué par les deep fakes : des crises diplomatiques entre Etats pourraient être facilitées. Dans un futur proche, les deep fakes pourraient devenir des armes appréciées des services nationaux de renseignements extérieurs. Pour déstabiliser l’ordre public d’un État, des vidéos et témoignages manipulés seraient idéals. Selon Chesney et Citron, de telles actions seraient conduites par la combinaison de l’usage de fausses preuves ultra-réalistes et du pouvoir de distribution et de propagation permis par les réseaux sociaux et médias. Dans cette logique, l’objectif principal serait de propager la panique parmi la population de l’État victime de deep fakes afin de créer le chaos et la peur. Selon un article du New York Times, paru en 2015, la Russie aurait été à l’origine, en 2014, d’une campagne de désinformation sophistiquée visant à propager les rumeurs d’une catastrophe chimique en Louisiane ou encore de l’émergence d’une épidémie de fièvre hémorragique Ébola à Atlanta.

Ces tentatives n’impliquaient pas de deep fakes, de vidéos manipulées et ultra réalistes. Mais cette nouvelle technologie, utilisée dans de pareils objectifs, pourrait avoir des répercussions bien plus graves et importantes à l’avenir. L’adoption de contre-mesures est donc indispensable.

Deep fakes et terrorisme 

Toujours selon Robert Chesney et Danielle Citron, la possibilité de voir des organisations terroristes ou des groupes insurgés utiliser la technologie des deep fakes sera une réalité à affronter. Ils préviennent que ces groupes seront encouragés à utiliser ces contenus frauduleux — par l’usage de mots ou actions provocatrices — afin de « galvaniser » leur audience. Et donc incités à accomplir des actes violents. Une fausse vidéo développée par une organisation terroriste islamiste pourrait mettre en scène des politiciens occidentaux tenir des propos hostiles, voire va-t’en-guerre à l’égard de la communauté musulmane — favorisant ainsi leur processus de recrutement parmi les individus radicalisés. Les deep fakes sont à l’origine de nouveaux enjeux pour la sécurité internationale.

Il ne convient cependant pas d’affirmer que les exemples cités plus haut sont inéluctables et certains de se produire. Mais l’émergence de l’intelligence artificielle rendra les deep fakes bien plus réalistes et dangereux. Un contexte international instable, associé à des campagnes vigoureuses de désinformation et de calomnies ne pourra que déboucher que sur des tensions croissantes entre gouvernements. Plus que jamais, la communauté politique internationale doit se saisir du sujet afin de rendre les notions de paix et de vérité indissociables.

 

 

 

(1) Robert Chesney & Danielle Citron (2019). ‘Deepfakes and the New Disinformation War : The Coming Age of Post Truth Geopolitics’. Foreign Affairs. Disponible à  : https://www.foreignaffairs.com/articles/world/2018-12-11/deepfakes-and-new-disinformation-war 

(²) Dawn Stover (2018). ‘Garlin Gilchrist : Fighting Fake News and the Information Apocalypse’. Bulletin of the Atomic Scientists. 74:4. 283-288. Disponible à :  https://www.tandfonline.com/doi/full/10.1080/00963402.2018.1486618

 

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *