Tom Hanks piégé par une publicité deepfake

Une publicité utilisant votre visage sans votre consentement ? C'est arrivé à Tom Hanks...

C’est l’acteur américain qui a alerté ses fans sur son compte Instagram.

On ne sait pas quelle est la compagnie responsable de cette utilisation abusive de l’image de Tom Hanks, ni comment elle a réagi, mais cette histoire met l’accent sur le risque de plus en plus manifeste de ce que l’on appelle un “deepfake”.

Qu’est-ce qu’un deepfake ? C’est un ensemble de techniques d’intelligence artificielle générative de vidéo qui permet de remplacer le visage de n’importe qui par celui d’une autre personne.

On appelle cela le “face-swap”.

La technologie la plus connue d’appelle le GAN (Generative Adversarial Network) : les GAN se composent de deux réseaux neuronaux, le générateur et le discriminateur. Le générateur crée des médias "deepfake", tandis que le discriminateur tente d'identifier s'il s'agit d'un vrai ou d'un faux. Par un processus d'essais et d'erreurs, le générateur améliore continuellement ses résultats jusqu'à ce qu'il puisse créer des deepfakes qu'il est pratiquement impossible de distinguer des médias authentiques.

Ces technologies sont utilisées au cinéma pour rajeunir les acteurs ou faire revenir des acteurs morts à l’écran.

Elle permettent aussi de créer des avatars qui parlent à votre place.

Jusqu’ici tout va bien, jusqu’à que ces technologies soient utilisées à l’insu de l’intéressé.

Sur son blog, Korben décrit un outil de deepfake, Roop, permettant de changer le visage de n’importe qui, sans aucune expertise technique…

N’importe quelle photo ou vidéo de vous publiée sur Internet peut désormais alimenter un deepfake.

C’est à la portée de tous.

Tom Hanks n’est d’ailleurs pas étranger à ces technologies, ils les utilise, et y réfléchit très sérieusement :

"Je peux vous dire que des discussions sont en cours dans toutes les guildes, toutes les agences et tous les cabinets d'avocats pour déterminer les ramifications juridiques de mon visage et de ma voix - et de ceux des autres - en tant que propriété intellectuelle”, confiait-il en avril dernier dans un podcast.

"Aujourd'hui, si je le voulais, je pourrais me réunir et proposer une série de sept films dans lesquels je jouerais et dans lesquels j'aurais 32 ans à partir de maintenant et jusqu'à la fin des temps. N'importe qui peut désormais se recréer à n'importe quel âge grâce à l'IA ou à la technologie deepfake".

Pour Tom Hanks, l'IA pourrait permettre à une fausse version de lui de continuer à jouer à perpétuité :

"Je pourrais être renversé par un bus demain, et c'est tout, mais les performances peuvent se poursuivre à l'infini. Et en dehors du fait que cela a été fait avec l'IA ou deepfake, il n'y aura rien qui vous dira que ce n'est pas moi et moi seul. Et cela aura un certain degré de qualité de vie. C'est certainement un défi artistique, mais c'est aussi un défi juridique.”

Dans son livre "IA 2042" (“AI 2041” en anglais…), Kai-Fu-Lee imagine un futur dominé par les deepfakes et suggère de développer des méthodes d'authentification pour échapper aux faux. Le livre imagine un futur marqué par les deepfakes et les jeux du chat et de la souris entre les faussaires et les personnes chargées de les détecter…

Des chiffres ?

Oui mais alors, quellle est l’ampleur du phénomène ? Battage médiatique ou vraie menace ?

En dehors de quelques cas célèbres (et on retrouve la liste des cas les plus connus sur cette page Wikipedia), il est difficile de mesurer avec précision l’évolution du volume de deepfakes. Les usages sont très variés, et les plus répandus ne sont pas forcément les plus connus.

Cependant, une étude de Deeptrace (qui propose des solutions de détection) annonçait un doublement du nombre de deepfakes entre 2018 et 2019 autour de 15.000. 96% d’entre-eux étaient des deepfakes pornographiques. Un secteur dans lequel les deepfakes continuent de sévir, estime NextImpact, qui reprend notamment une note du FBI qui a recensé une “augmentation des “sextorsions” en 2023 via des deepfakes, sans avancer de chiffres.💡 La sextorsion est une forme de chantage dans laquelle une personne menace de révéler des images ou des vidéos à caractère sexuel de la victime à moins que cette dernière ne lui donne de l'argent, ne lui fournisse d'autres images ou vidéos de ce type, ou ne se soumette à d'autres demandes.

 Une étude de Sumsub parle d”un doublement des deepfakes utilisés dans le cadre de fraude à l’identification (3% des fraudes en 2023). En 2022, Les Echos parlaient d’une augmentation de 13% des deepfakes dans le cadre des cyber-attaques au cours de l’année (rapport “WmWare”).

Enfin, les deepfakes politiques restent un phénomène limité à ce stade, selon un rapport du FBI de septembre 2023.