falsification

Publié le 2023-12-07 18:00:00. Une vidéo truquée, générée par intelligence artificielle, simulant un coup d’État en France et la destitution du président Macron, a semé la panique et mis en lumière les failles des plateformes numériques face à la désinformation.

• Une vidéo de fausses nouvelles, créée par IA, a circulé massivement sur les réseaux sociaux, affirmant un coup d’État à Paris.
• Le gouvernement français a immédiatement démenti ces informations, mais Meta a initialement refusé de supprimer la vidéo.
• L’incident soulève des questions cruciales sur la responsabilité des plateformes et la nécessité d’une régulation plus stricte de l’IA.

La France a été le théâtre d’une opération de désinformation particulièrement sophistiquée ces derniers jours. Une vidéo, diffusée sur les réseaux sociaux, prétendait montrer des scènes de chaos à Paris, avec des véhicules de police, des hélicoptères et des soldats dans les rues, le tout accompagné d’une annonce alarmante : un coup d’État militaire avait eu lieu et le président Emmanuel Macron avait été destitué. La vidéo, d’une qualité visuelle troublante, mettait en scène un individu se présentant comme un journaliste, diffusant des informations fallacieuses devant un décor censé être aux abords du Palais de l’Élysée.

En quelques jours, cette fausse information a été visionnée plus de 13 millions de fois, provoquant une onde de choc en France et suscitant même l’inquiétude de chefs d’État africains, qui ont pris contact avec l’Élysée pour obtenir des éclaircissements. Cet incident est considéré comme l’une des plus importantes campagnes de désinformation basée sur l’IA observées à ce jour.

Le gouvernement français a rapidement publié un communiqué pour démentir formellement ces allégations, assurant que la situation politique était stable et que le président Macron exerçait toujours ses fonctions. L’équipe présidentielle a immédiatement demandé à Meta, la société mère de Facebook et Instagram, de retirer la vidéo incriminée. Cependant, Meta a refusé de coopérer, arguant qu’elle ne violait pas les règles d’utilisation de la plateforme. Cette décision a rapidement dégénéré en un conflit ouvert entre la souveraineté nationale et la responsabilité des géants de la technologie.

L’enquête a révélé que la vidéo avait été publiée par un compte nommé « ISLAM », utilisant un faux canal d’information baptisé « Live 24 ». La mise en scène, bien que fallacieuse, était particulièrement réussie, avec des images de la Tour Eiffel illuminée et des effets sonores réalistes. Le récit, présenté de manière affirmative – affirmant directement la réussite d’un coup d’État – rendait d’autant plus difficile pour les spectateurs de distinguer le vrai du faux.

Ce n’est pas la première fois que ce compte diffuse de fausses informations. Début décembre, il avait déjà utilisé une vidéo générée par IA pour se faire passer pour Radio France Internationale (RFI) et diffuser des informations sur un prétendu coup d’État, accumulant alors plus de 3 millions de vues. L’analyse de cet incident met en évidence la conjoncture politique actuelle en France, marquée par des tensions sociales et une récente motion de censure ayant conduit à la démission du Premier ministre Michel Barnier, comme un facteur favorisant la propagation de ces fausses nouvelles.

Face à la viralité de la vidéo, les autorités françaises ont d’abord adopté une attitude mesurée. Cependant, l’augmentation rapide du nombre de vues et l’inquiétude internationale ont incité le président Macron à intervenir personnellement. Lors d’un déplacement à Marseille, il a déclaré avec fermeté que ce type de contenu « se moque ouvertement du système démocratique, ignore la souveraineté nationale et nuit à la santé du débat public ».

Malgré l’intervention présidentielle, Meta a initialement maintenu sa position. Certains observateurs soulignent que cette attitude n’est pas fortuite, rappelant que Mark Zuckerberg, PDG de Meta, avait annoncé en début d’année une réduction des efforts de vérification des faits, les remplaçant par des « notes communautaires », critiquant le système traditionnel comme étant politiquement biaisé. Cette décision, interprétée comme une tentative de s’attirer les faveurs de l’ancien président américain Donald Trump, laisse la plateforme vulnérable face à la désinformation générée par l’IA.

Ce n’est qu’après avoir été confrontée à la menace de sanctions réglementaires, notamment dans le cadre de la loi européenne sur les services numériques (DSA), et après qu’une autre plateforme de médias sociaux ait écopé d’une amende importante le 5 décembre, que Meta a finalement ajouté une mention discrète à la vidéo, indiquant qu’elle « pourrait avoir été traitée numériquement », avant de la supprimer quelques heures plus tard. Cependant, à ce moment-là, les fausses informations s’étaient déjà largement répandues, et les conséquences de cette désinformation sont difficiles à évaluer.

Cet incident met en lumière un danger croissant : le coût de la création de fausses nouvelles diminue, tandis que leur potentiel de nuisance reste élevé. Autrefois réservée aux professionnels, la production de vidéos trompeuses est désormais accessible à tous grâce à l’IA. La France s’inquiète également de l’impact de ces contenus sur la diplomatie et la sécurité, craignant que de fausses images de « conflits militaires » ou d’« attaques contre des chefs d’État » ne provoquent des crises internationales.

Macron a averti que ce type de comportement place la société dans une « situation extrêmement dangereuse ». Il a publiquement appelé l’Europe à accélérer l’adoption de réglementations plus strictes, exigeant que les plateformes suppriment immédiatement les « contenus manifestement inexacts », améliorent la transparence de leurs algorithmes et renforcent les mécanismes de contrôle des comptes. L’Union européenne s’efforce de définir des règles claires pour les grandes plateformes technologiques à travers la loi sur les services numériques, mais le rythme effréné du développement de l’IA représente un défi majeur pour les régulateurs.

Les services de renseignement français ont également mis en garde contre l’utilisation croissante de la désinformation dans les jeux géopolitiques, signalant l’existence de nombreux sites web diffusant de la propagande pro-russe et exploitant des événements réels pour créer de faux récits. La vidéo impliquant le coup d’État en France et Macron pourrait être liée à des acteurs malveillants cherchant à déstabiliser le pays et à ternir son image internationale.