Publié le 3 octobre 2024 à 12h45. La prolifération des images et vidéos générées par intelligence artificielle soulève des inquiétudes quant à la manipulation de l’opinion publique, notamment en ce qui concerne la représentation de foules lors d’événements.
- Des scènes de foule générées par IA posent un défi technique croissant pour les entreprises comme OpenAI et Google, mais leurs modèles s’améliorent rapidement.
- La capacité de créer des foules artificielles réalistes pourrait être utilisée pour gonfler artificiellement la taille de rassemblements politiques ou pour diffuser de la désinformation.
- Les entreprises technologiques mettent en place des filigranes et des systèmes d’étiquetage pour identifier le contenu généré par IA, mais ces mesures ne sont pas encore uniformes.
Une vidéo récente d’un concert de Will Smith a mis en lumière les difficultés de détection des images générées par intelligence artificielle. Des spectateurs ont remarqué des anomalies dans la foule, suggérant une possible manipulation par IA. Si l’équipe de Smith n’a pas commenté publiquement la manière dont la vidéo a été réalisée, cet incident illustre les progrès rapides de l’IA dans la création d’images réalistes, et les défis que cela pose.
« Vous gérez tant de détails complexes », explique Kyt Janae, artiste visuelle et chercheuse spécialisée dans la création d’images par IA, basée à San Francisco. « Vous avez chaque être humain individuel dans la foule. Ils se déplacent tous indépendamment et ont des caractéristiques uniques : leurs cheveux, leur visage, leur chapeau, leur téléphone, leur chemise. »
Les scènes de foule représentent un défi particulier pour les outils de création d’images par IA, en particulier pour la vidéo. Cependant, les derniers modèles de génération de vidéos, tels que Gemini 3 de Google et Sora 2 d’OpenAI, deviennent de plus en plus performants. « Nous entrons dans un monde où, dans une estimation généreuse d’un an, les lignes de réalité vont devenir vraiment floues », prédit Janae. « Et vérifier ce qui est réel et ce qui ne l’est pas devra presque devenir une pratique courante. »
Cette capacité à manipuler les images de foules pourrait avoir des conséquences importantes dans une société où la taille des foules lors d’événements publics est souvent utilisée comme indicateur de popularité ou de soutien. « Nous voulons une mesure visuelle, un moyen de déterminer si quelqu’un réussit ou non », explique Thomas Smith, PDG de Gado Images, une entreprise qui utilise l’IA pour gérer les archives visuelles. « Et la taille de la foule en est souvent un bon indicateur. »
Un rapport de la société de conseil Capgemini révèle que près des trois quarts des images partagées sur les réseaux sociaux en 2023 ont été générées à l’aide de l’IA. Avec l’amélioration constante de la technologie, la manipulation des visuels devient de plus en plus facile. Cela représente à la fois une opportunité créative et un danger sociétal. « L’IA est un bon moyen de truquer et de gonfler la taille de votre foule », souligne Smith.
Pour les entreprises technologiques, il s’agit de trouver un équilibre entre la liberté de création et la nécessité de protéger le public contre la désinformation. Google a mis en place des filigranes visibles et invisibles sur les images générées par son IA, mais le filigrane visible est discret et facile à manquer. Les systèmes d’étiquetage du contenu généré par IA sont également appliqués de manière inégale sur les différentes plateformes, et il n’existe pas encore de normes à l’échelle de l’industrie.
Meta, la société mère d’Instagram, étiquette le contenu généré par IA lorsque les utilisateurs le divulguent ou lorsque ses systèmes le détectent. YouTube ajoute automatiquement une étiquette dans la description des vidéos créées à l’aide de ses propres outils d’IA génératives. TikTok exige que les créateurs étiquettent le contenu généré ou modifié de manière significative, sous peine de suppression, de restriction ou d’étiquetage par l’équipe de la plateforme.
Will Smith a d’ailleurs utilisé l’IA de manière ludique après la polémique autour de la vidéo de son concert, en publiant une vidéo où la foule est remplacée par des chats. Il a commenté : « La foule était au top ce soir !! »
À lire aussi
