Double page 47

Les deepfakes

Le pape en doudoune de luxe, une explosion au Pentagone, l'arrestation musclée d'un ancien président américain… Ces images ont fait le tour du monde. Aucune n'était vraie.

Qu’est-ce qu’un deepfake ?

Un deepfake (de deep learning, « apprentissage profond », et fake, « faux ») est une image, une vidéo ou un enregistrement sonore truqué grâce à l’IA, de façon si réaliste qu’il semble authentique. On peut faire dire ou faire faire à une personne réelle des choses qu’elle n’a jamais dites ni faites.

Le pape en doudoune (mars 2023)

Une photo montre le pape François vêtu d’une longue doudoune blanche, très à la mode. Elle devient virale en quelques heures. Des millions de personnes y croient, y compris des journalistes. L’image avait été créée avec Midjourney par un internaute, pour s’amuser. Beaucoup y voient le premier grand deepfake grand public.

IMAGE FAUSSE – Générée par IA en mars 2023, elle a trompé des millions de personnes. (Midjourney · Public domain · Wikimedia Commons)

L’explosion du Pentagone (mai 2023)

Une image montrant une colonne de fumée près du Pentagone, le siège du ministère américain de la Défense, se répand sur les réseaux sociaux, relayée par des comptes à l’apparence officielle. Pendant quelques minutes, les marchés financiers américains baissent brièvement. Les autorités démentent rapidement : il n’y a eu aucune explosion.

Le vrai Pentagone, siège du ministère américain de la Défense. La fausse image de l'explosion n'est pas reproduite ici. (David B. Gleason from Chicago, IL · CC BY-SA 2.0 · Wikimedia Commons)

L’arrestation qui n’a pas eu lieu (mars 2023)

Le journaliste britannique Eliot Higgins génère une série d’images montrant Donald Trump arrêté de force par des policiers. Il les publie en précisant qu’elles sont fausses, pour montrer le danger. Mais les images circulent ensuite sans cette précision, et beaucoup les prennent pour vraies.

Pourquoi c’est grave

Les deepfakes peuvent manipuler les élections en prêtant de faux propos à des candidats.
Ils servent à harceler des personnes, notamment par des montages humiliants. En France, la création et la diffusion de tels montages sans consentement sont punies par la loi.
Ils sapent la confiance : si tout peut être faux, on finit par ne plus croire même ce qui est vrai.

Zoom sur… le « dividende du menteur » L’existence des deepfakes permet aussi à des personnes prises en faute de prétendre qu’une vraie vidéo compromettante est un faux. Les chercheurs appellent cela le dividende du menteur.