Une terrifiante histoire d’escroquerie par un clonage de voix réalisé par une IA

« Maman ! Maman, j'ai foiré ». Une courte phrase pleine d'émotions et de sanglots, c'est le début de la conversation téléphonique qu'a eue Jennifer DeStefano, la mère d'une jeune fille âgée de 15 ans, avant qu'un homme prenne le téléphone et lui demande une rançon d'1 million de dollars pour la libérer. Sans ce règlement, l'individu menaçait de droguer sa fille et de la déposer au Mexique. Cette histoire relatée par la chaîne de TV AZ Family a eu lieu en Arizona, aux États-Unis. Et la personne demandant la rançon a très rapidement réduit sa demande à 50 000 dollars, lorsque la mère de l'adolescente a expliqué qu'elle n'avait pas les fonds. Un comportement étrange qui a peut-être mis la puce à l'oreille de cette mère inquiète.

Bien entourée durant ce coup de fil, elle a pu contacter son mari qui a expliqué que leur fille se trouvait en sécurité à la maison. Que s'est-il passé ? Cette mauvaise aventure est en réalité une tentative d’escroquerie. Mais il reste que la voix était vraiment celle de l'adolescente. En réalité, il s'agit d'un nouveau type d'arnaque avec l'utilisation d'un cloneclone de la voix d'un proche créé par une intelligence artificielle.

Trois secondes de voix suffisent pour la cloner

S'il est donc difficile de faire confiance à ce que l'on peut voir, lorsque des photos réalistes créées avec Midjourney circulent de façon virale pour désinformer, il va en être de même avec ce que l'on entend. Alors qu'il fallait énormément d'échantillons de la voix d'une personne pour la cloner, les IA s'améliorent. Seulement trois secondes de votre voix sont nécessaires pour y parvenir. Ces seules trois secondes suffisent pour relever l'inflexion de la voix et la transmission d'émotions. Mais comment trouver la voix d'un proche pour la reproduire ? Il suffit de se rendre sur les réseaux sociauxréseaux sociaux où nombre de personnes diffusent des vidéos personnelles dans lesquelles elles s'expriment. Rien qu'une approche via ces mêmes réseaux peut suffire pour engager un dialogue oral et collecter une voix rapidement. Le reste des informations privées se trouve également sur les réseaux sociaux. Cela permet d'obtenir des détails qui vont permettre de rendre plus authentique la supercherie.

Encore une fois, si les IA ne sont ni bonnes ni mauvaises, tout dépend de ce que l'on en fait et comme elles sont désormais accessibles à tous, leur emploi à des fins malveillantes progresse également. Face à ce genre de situation, dans tous les cas, mieux vaut conserver son calme et poser de nombreuses questions personnelles pour savoir à qui on a affaire.