Le nouvel outil de détection de deepfakes de Facebook peut identifier le modèle utilisé, même s’il ne l’a jamais rencontré avant. © chamobsan, fotolia
Tech

Cette IA détecte les deepfakes et en retrouve même l’origine

ActualitéClassé sous :intelligence artificielle , Deepfake , Facebook

Facebook vient d'annoncer un nouvel outil de détection des deepfakes basé sur l'intelligence artificielle. Il ne se contente pas de séparer les fausses images des vraies, mais déduit également des paramètres utilisés dans leur génération pour en identifier la source.

Cela vous intéressera aussi

[EN VIDÉO] Les 10 menaces les plus dangereuses de l'intelligence artificielle  L’intelligence artificielle a permis des avancées dans le domaine de la santé, la recherche et l'industrie. Mais dans de mauvaises mains, elle peut aussi servir à des fins criminelles ou à la désinformation. 

Les deepfakes s'améliorent constamment au point où il devient impossible pour les humains de distinguer le vrai du faux. Ces fausses images et vidéos sont très utilisées pour la désinformation car elles permettent de prêter à des personnes des actions ou propos entièrement inventés. Pour lutter contre ce fléau, Facebook s'est associé à l'université du Michigan pour créer un outil de détection d'un nouveau genre.

Il existe déjà des outils basés sur l'intelligence artificielle capables d'identifier les traces laissées par des modèles de génération de deepfakes connus. Toutefois, le nombre de modèles augmente régulièrement, limitant l'intérêt de ces outils de détection. Celui développé par Facebook utilise la rétro-ingénierie pour remonter à la source de l'image. Il s'appuie sur l'empreinte digitale de l'image laissée par le modèle utilisé. En généralisant celle-ci, ils sont capables de détecter des modèles encore jamais vus.

Un système qui peut identifier les campagnes de désinformation

Une fois l'empreinte déterminée, l'outil est capable de discerner certains paramètres utilisés dans la génération du deepfake, comme le nombre de blocs et le type d'opérations utilisées dans chaque bloc. Il crée ainsi une représentation du modèle, même si celui-ci est nouveau.

Cette avancée ne se limite pas à la simple détection des deepfakes. En se basant sur cette représentation, l'outil est capable de comparer une série d'images pour déterminer si elles proviennent de la même source. Cette fonction permettra par exemple aux réseaux sociaux de détecter rapidement une campagne de désinformation.

Abonnez-vous à la lettre d'information La quotidienne : nos dernières actualités du jour. Toutes nos lettres d’information

!

Merci pour votre inscription.
Heureux de vous compter parmi nos lecteurs !