Seulement cinq jours après son lancement, un outil qui protège les œuvres des artistes contre l’intelligence artificielle a déjà été téléchargé plus de 250 000 fois. Nightshade est la toute dernière arme pour tenter d’empêcher l’exploitation des œuvres protégées sans le consentement de leurs auteurs.

au sommaire

    Un quart de million, c'est le nombre de téléchargements du nouveau logiciel Nightshade en seulement cinq jours. Ce chiffre est d'autant plus impressionnant que le programme en question ne s'adresse qu'aux artistes. Nightshade est la dernière invention d'un groupe de chercheurs de l'université de Chicago aux États-Unis. Le logiciel modifie de manière imperceptible les images afin de les rendre inexploitables pour l'entraînement des intelligences artificielles telles que Midjourney, Dall-E ou encore Stable DiffusionDiffusion.

    Depuis déjà de nombreux mois, l'IA inquiète les artistes, dont elle dérobe la créativité, l'identité stylistique, les revenus et aussi... les prix ! Décryptage avec Emma Hollen, dans Vitamine Tech. © Futura

    Les chercheurs avaient déjà publié un précédent logiciel nommé Glaze, qui fonctionne de manière similaire, mais change le stylestyle de l'image telle qu'elle est vue par l'IA pour l'empêcher d'apprendre le style personnel de l'artiste. Cette fois, les chercheurs sont allés plus loin en créant un outil qui modifie l'image afin que l'IA  identifie le sujet comme étant très différent. Ainsi, au lieu de voir un chienchien, l'IA identifiera un chat. Une vachevache dans un pré ressemblera pour l'IA à un sac à main posé dans l'herbe.

    Les images produites par le modèle Stable Diffusion XL entraîné sur des images normales en haut, ainsi que les résultats si ses données d’entraînement contiennent 50, 100 ou 300 œuvres modifiées par <em>Nightshade</em>. © Université de Chicago
    Les images produites par le modèle Stable Diffusion XL entraîné sur des images normales en haut, ainsi que les résultats si ses données d’entraînement contiennent 50, 100 ou 300 œuvres modifiées par Nightshade. © Université de Chicago

    Une popularité d’une ampleur inattendue

    Des intelligences artificielles entraînées sur ces images empoisonnées auront un comportement imprévisible et seront au final inexploitables. Et il ne suffit pas de découper ou d'ajouter un filtre à l'image pour défaire la protection. Le logiciel modifie plus de 80 % des pixels. Le but des chercheurs n'est pas tant d'empoisonner les IA, mais plutôt d'obliger leurs propriétaires à obtenir le consentement des artistes avant d'exploiter leurs œuvres. Toutefois, ils ne s'attendaient pas à un tel engouement.

    « Je m'attendais à un très grand enthousiasme, a déclaré à VentureBeat Ben Zhao, chef du projet Nightshade et professeur d'informatique à l'université de Chicago. Malgré tout, j'en ai sous-estimé l'ampleur... La réponse dépasse tout ce que nous avions imaginé. D'après les réactions sur les réseaux sociauxréseaux sociaux, les téléchargements proviennent du monde entier. »