Dites donc une équipe de chercheurs qui ont découvert des faiblesses importantes dans deux des outils de protection de l’artiste le plus utilisé par les artistes pour protéger leur travail.
Selon leurs créateurs, Glaze et Nightchade ont tous deux été développés pour protéger les créatifs humains contre les utilisations invasives de l’intelligence artificielle générative.
Les outils sont populaires parmi les artistes numériques qui souhaitent empêcher les modèles d’intelligence artificielle (tels que la diffusion stable du générateur d’art) pour copier leurs styles uniques sans consentement. Ensemble, Glaze et Nightshade ont été téléchargés près de neuf millions de fois.
Mais selon un groupe international de chercheurs, ces outils ont de faibles points critiques qui signifient qu’ils ne peuvent pas empêcher les modèles d’intelligence artificielle de former le travail des artistes.
Mais les chercheurs ont créé une méthode – appelée Flash – qui peut contourner ces protections. Lightshed est capable de détecter, d’induire l’ingénierie et de supprimer ces distorsions, en supprimant efficacement les poisons et en faisant à nouveau les images qui peuvent être utilisées pour former le modèle d’intelligence artificielle générative.
Il a été développé par des chercheurs de l’Université de Cambridge avec des collègues de l’Université Technical Darmstadt et de l’Université du Texas à San Antonio. Les chercheurs espèrent qu’en annonçant leur travail, qui sera présenté à Symposium de sécurité UsenixUne grande conférence sur la sécurité, en août: ils peuvent faire savoir aux créatifs qu’il y a des problèmes importants avec les outils de protection artistique.
Lightshed fonctionne à travers un processus en trois phases. Identifiez d’abord si une image a été modifiée avec des techniques d’empoisonnement connues.
Dans une deuxième phase d’ingénierie inverse, il apprend les caractéristiques des perturbations en utilisant des exemples empoisonnés disponibles au public. Enfin, élimine le poison pour restaurer l’image sous sa forme originale et non protégée.
Dans les évaluations expérimentales, les images d’hôtes de déploiement ont détecté les images protégées en soirée avec une précision de 99,98% et ont en fait supprimé les protections incorporées par ces images.
« Cela montre que même lorsque vous utilisez des outils tels que Nightshade, les artistes sont toujours en danger que leur travail soit utilisé pour la formation de modèles d’intelligence artificielle sans leur consentement », a déclaré le premier auteur Hanna Foerster du Département d’informatique et de la technologie Cambridge, qui a mené le travail lors d’un stage à Tu Darmstadt.
Bien que Lightshed ait révélé des séries de vulnérabilité dans des outils de protection artistique, les chercheurs soulignent qu’il n’a pas été développé non pas comme une attaque contre eux, mais plutôt comme une invitation urgente à produire l’action la meilleure et la plus adaptative.
« Nous voyons cela comme une opportunité de co-évolution des défenses », a déclaré le co-auteur, le professeur Ahmad-Reza Sadeghi à l’Université technique de Darmstadt. « Notre objectif est de collaborer avec d’autres scientifiques dans ce domaine et de soutenir la communauté artistique dans le développement d’outils capables de résister aux adversaires avancés. »
Le paysage de l’IA et de la créativité numérique évolue rapidement. En mars de cette année, OpenI a lancé un modèle d’image Chatgpt qui pourrait produire instantanément des œuvres d’art dans le style de Studio Ghibli, l’étude d’animation japonaise.
Après ces discussions, Openai a annoncé la sauvegarde prête pour bloquer les demandes de certains utilisateurs pour générer des images dans les styles d’artistes vivants.
Et au début de ce mois, Disney et Universal ont annoncé qu’ils étaient chantés à la MidJourney Artificial Intelligence Company pour ses images d’images, que les deux sociétés ont déclaré qu’il s’agissait d’une « fosse sans plagiat ».
« Ce que nous espérons faire avec notre travail, c’est de mettre en évidence le besoin urgent de stratégies routières plus résilientes et de concentration sur l’artiste », a déclaré Foerster. « Nous devons faire savoir aux créatifs qu’ils sont toujours en danger et collaborer avec d’autres pour développer de meilleurs outils de protection artistique à l’avenir. »
Hanna Foerster est membre du Cambridge’s Downing College.