Les chatbots comme ChatGPT et Google Bard intègrent des protections pour empêcher les personnes mal intentionnées de les détourner pour commettre des crimes. Toutefois, des cybercriminels commencent à développer leurs propres IA, comme WormGPT et FraudGPT.

au sommaire

    L'intelligence artificielle (IA) émerveille autant qu'elle effraie. Elle est capable de réaliser de nombreuses tâches pénibles, mais l'IA peut aussi être détournée à des fins criminelles. Nous avons vu ChaosGPT, une intelligence artificielle qui a pour objectif de détruire l'humanité. Voici désormais FraudGPT et WormGPT, deux projets beaucoup plus sérieux.

    Les développeurs des chatbots mis à disposition du grand public, comme ChatGPTChatGPT et GoogleGoogle Bard, ont imposé des limites éthiques sur le genre de contenus qu'ils peuvent produire afin d'éviter qu'ils soient détournés ou tout simplement que les contenus produits puissent choquer les utilisateurs. Ces deux nouveaux projets n'ont aucune limite de ce genre et peuvent donc être utilisés pour commettre des crimes.

    Rédaction de messages et création de malware

    WormGPT a été repéré il y a quelques semaines sur un forum dédié au cybercrime, et FraudGPT est apparu il y a quelques jours. Les deux chatbots sont assez similaires, et peuvent assister dans des attaques de type phishing avec la rédaction d'un e-mail ou d'un SMS pour escroquer les victimes, en se faisant passer pour leur banque, par exemple. Ils peuvent aussi se faire passer pour le P.-D.G. d'une entreprise, en demandant à un employé de payer une fausse facture. WormGPT est encore plus complet, et permet même de générer du code dans le langage de programmation PythonPython pour créer un malwaremalware. Ce dernier utilise un grand modèle de langage libre nommé GPT-J créé en 2021. L'auteur de FraudGPT n'a pas précisé le modèle de langage utilisé.

    L'utilisation de ces outils n'est toutefois pas gratuite. Les cybercriminels devront payer 60 euros par mois, ou 550 euros par an pour accéder à WormGPT. FraudGPT est encore plus cher, avec un abonnement à 200 dollars (180 euros) par mois.