Une patate chaude : L’un des côtés sombres des générateurs d’images IA est leur capacité à créer de fausses images de conflits mondiaux. Il n’est pas surprenant d’apprendre que cela se produit avec la guerre entre Israël et le Hamas, mais ce qui est choquant, c’est que ces photos sont vendues via la bibliothèque d’images d’Adobe et achetées par des éditeurs de presse qui les font passer pour réelles.
Adobe a annoncé l’année dernière qu’il vendrait des images générées par l’IA sur sa plateforme d’images de stock. Il paie à ceux qui soumettent les images une réduction de revenus de 33 %, ce qui signifie qu’ils pourraient gagner entre 33 cents et 26,40 $ pour chaque téléchargement.
La recherche de « Conflit Israël-Palestine » sur le site Adobe fait apparaître près de 1 000 résultats. D’après les premières pages, l’écrasante majorité d’entre elles sont générées par l’IA – certaines beaucoup plus évidemment que d’autres.
La semaine dernière, un média australien Crikey a rapporté que l’une de ces images générées par l’IA, intitulée « conflit entre Israël et la Palestine par IA générative », montre des panaches de fumée noire s’élevant d’entre les bâtiments. C’est photoréaliste, ressemblant à de nombreuses photographies réelles prises pendant le conflit.
L’image a été diffusée en ligne par de petits médias, des blogs et des newsletters, qui ne l’ont pas signalée comme ayant été créée par une IA générative. On ne sait pas si ces publications savaient qu’il s’agissait d’une fausse image.
Toutes les images fabriquées dans la bibliothèque d’Adobe sont marquées comme « Générées avec l’IA », bien que cela n’apparaisse que lorsque quelqu’un clique sur l’une des images pour la télécharger/afficher plus d’informations.
Adobe Stock a répondu aux rapports avec la déclaration suivante à EntrepriseBeat: “Adobe Stock est un marché qui exige que tout le contenu d’IA générative soit étiqueté comme tel lorsqu’il est soumis pour licence. Ces images spécifiques ont été étiquetées comme IA générative lorsqu’elles ont été soumises et mises à disposition pour licence conformément à ces exigences. Nous pensons que c’est Il est important que les clients sachent quelles images Adobe Stock ont été créées à l’aide d’outils d’IA générative. »
Adobe ne propose plus de ressources éditoriales dans sa bibliothèque, contrairement à Getty Images, qui est plus populaire parmi les grands médias. Au lieu de cela, il promeut un « éditorial illustratif », conçu comme une imagerie conceptuelle conçue pour illustrer des articles sur l’actualité et des sujets dignes d’intérêt.
Ce n’est pas la première fois que des images générées par l’IA sont utilisées pour illustrer des événements réels. En mai dernier, Amnesty International claqué pour avoir utilisé de fausses photos de manifestations colombiennes.
Le contenu généré par l’IA est devenu une nouvelle arme à l’ère de la désinformation en ligne, d’autant plus qu’il peut paraître si réel. Il y a déjà eu avertissements d’acteurs malveillants utilisant la technologie pour diffuser des images qui divisent avant les élections américaines de l’année prochaine, et l’UE a déclaré en juin aux sociétés de médias sociaux que le contenu créé par l’IA devrait être étiqueté pour arrêter la propagation des fausses nouvelles.
UN Enquête des Nations Unies Cette semaine, 85 % des citoyens de 16 pays, dont les États-Unis, s’inquiètent de l’impact de la désinformation en ligne, tandis que 87 % estiment qu’elle a déjà porté atteinte à la politique de leur pays.
