Facebook vient d'annoncer un nouvel outil de détection des deepfakes basé sur l'intelligence artificielle. Il ne se contente pas de séparer les fausses images des vraies, mais déduit également des paramètres utilisés dans leur génération pour en identifier la source.
[EN VIDÉO] Les 10 menaces les plus dangereuses de l'intelligence artificielle L’intelligence artificielle a permis des avancées dans le domaine de la santé, la recherche et l'industrie. Mais dans de mauvaises mains, elle peut aussi servir à des fins criminelles ou à la désinformation.
Les deepfakes s'améliorent constamment au point où il devient impossible pour les humains de distinguer le vrai du faux. Ces fausses images et vidéos sont très utilisées pour la désinformation car elles permettent de prêter à des personnes des actions ou propos entièrement inventés. Pour lutter contre ce fléau, Facebook s'est associé à l'université du Michigan pour créer un outil de détection d'un nouveau genre.
Il existe déjà des outils basés sur l'intelligence artificielle capables d'identifier les traces laissées par des modèles de génération de deepfakes connus. Toutefois, le nombre de modèles augmente régulièrement, limitant l'intérêt de ces outils de détection. Celui développé par Facebook utilise la rétro-ingénierie pour remonter à la source de l'image. Il s'appuie sur l'empreinte digitale de l'image laissée par le modèle utilisé. En généralisant celle-ci, ils sont capables de détecter des modèles encore jamais vus.
Un système qui peut identifier les campagnes de désinformation
Une fois l'empreinte déterminée, l'outil est capable de discerner certains paramètres utilisés dans la génération du deepfake, comme le nombre de blocs et le type d'opérations utilisées dans chaque bloc. Il crée ainsi une représentation du modèle, même si celui-ci est nouveau.
Cette avancée ne se limite pas à la simple détection des deepfakes. En se basant sur cette représentation, l'outil est capable de comparer une série d'images pour déterminer si elles proviennent de la même source. Cette fonction permettra par exemple aux réseaux sociaux de détecter rapidement une campagne de désinformation.