Le deepfake est aujourd'hui invisible à l'œil nul, et seule l'intelligence artificielle permettra de distinguer le vrai du faux. © TikTok
Tech

Attention deepfake : les fausses vidéos avec Tom Cruise jettent le trouble

ActualitéClassé sous :Deepfake , tik tok , trucage vidéo

[EN VIDÉO] Les 10 menaces les plus dangereuses de l'intelligence artificielle  L’intelligence artificielle a permis des avancées dans le domaine de la santé, la recherche et l'industrie. Mais dans de mauvaises mains, elle peut aussi servir à des fins criminelles ou à la désinformation. 

Les vidéos « deepfake » avec Tom Cruise sur TikTok n'ont rien de bien méchant, mais elles prouvent qu'il est désormais impossible de distinguer une fausse d'une vraie vidéo. Même s'il existe des outils puissants basés sur l'intelligence artificielle pour détecter les fausses vidéos, il est souvent trop tard, et le grand public est déjà piégé.

Impossible de rater cette vidéo : on y voit Tom Cruise effectuer un tour de magie avec une pièce de monnaie. Rien n'empêche l'acteur américain de poster ce genre de vidéo pour ses fans sur les réseaux sociaux. Sauf que ce n'est pas Tom Cruise ! Le compte s'appelle DeepTomCruise, et sur TikTok, il sème le trouble. Il démontre qu'il n'est plus possible aujourd'hui de distinguer une vraie d'une fausse vidéo. En matière de « deepfake », la technologie a pris le dessus.

Pour Rachel Tobac, P.-D.G. de SocialProof Security, il fallait s'y attendre. Il y a deux ans, elle avait prévenu que très rapidement il ne serait plus possible de distinguer le vrai du faux, et c'est évidemment problématique à l'ère du complotisme et de la manipulation des masses avec de fausses informations. « Ce n'est pas parce qu'on a le sentiment, à titre personnel, de faire la différence entre les médias inventés et authentiques que nous sommes prêts à laisser tomber. Ce que pense le grand public importe », explique-t-elle, et elle regrette qu'il n'y ait pas d'initiation aux médias et à la vérification des informations. Autre regret : l'absence d'outil grand public pour détecter ce type de fausses vidéos.

Le compte DeepTomCruise recense déjà 10 millions de vues en une semaine. © TikTok, YouTube

L'intelligence artificielle peut détecter la supercherie

Il en existe déjà des payants, et le site CounterSocial a pu détecter les vidéos de Tom Cruise comme étant fausses grâce à son propre algorithme d'intelligence artificielle. Mais qui utilise ça ? Quel internaute va prendre la peine de télécharger la vidéo puis de la soumettre à cet outil ? Aucun ! Comme premier rempart, Rachel Tobac demande ainsi à ce que toutes les personnalités, comme Tom Cruise par exemple, s'inscrivent sur TikTok et possèdent un compte certifié. Ce qui permettrait déjà, selon elle, que d'autres personnes se fassent passer pour des célébrités.

Ensuite, elle demande donc à ce que les réseaux sociaux, comme TikTok, mais aussi Twitter, Instagram ou Facebook, intègrent des outils de détection, mais aussi de marquage. Ce serait évidemment plus simple si après la mise en ligne d'une vidéo, une application était capable de détecter les modifications effectuées sur la vidéo, et ainsi de prévenir l'internaute que c'est un faux.

Et si des hackers s'emparaient de cet outil...

Enfin, elle rappelle que ce type de deepfake est tout simplement puni par la loi. Dans les conditions générales d’utilisation de TikTok, il est écrit noir sur blanc, qu'il est interdit de « vous faire passer pour une quelconque personne ou entité, faire une fausse déclaration ou encore vous présenter de manière inexacte comme affilié à une quelconque personne ou entité, y compris en donnant l'impression que tout contenu que vous téléchargez, postez, transmettez, distribuez ou mettez à disposition provient des Services ».

En l'état, ce compte DeepTomCruise annonce clairement la couleur, et il faut le prendre davantage comme une démonstration technologique, plutôt qu'une tentative d'usurper l'identité de Tom Cruise. Mais qu'en sera-t-il lorsque des esprits malveillants vont s'emparer des outils, et les utiliser pour tromper le public, mais aussi se venger ou harceler une personnalité publique ou privée ? Inquiétant...

Abonnez-vous à la lettre d'information La quotidienne : nos dernières actualités du jour. Toutes nos lettres d’information

!

Merci pour votre inscription.
Heureux de vous compter parmi nos lecteurs !