Publié le 24 septembre 2023. Le violoniste canadien Ashley MacIsaac a été faussement identifié comme un délinquant sexuel par l’intelligence artificielle de Google, entraînant l’annulation d’un concert et suscitant des inquiétudes quant à sa sécurité et à sa réputation.
- Une erreur de l’IA de Google a conduit à la diffusion de fausses informations concernant Ashley MacIsaac.
- La Première Nation Sipekne’katik a annulé un concert après avoir pris connaissance de ces allégations infondées.
- L’incident soulève des questions sur les conséquences de la désinformation générée par l’IA et la nécessité de vérifier les informations en ligne.
Le violoniste originaire du Cap-Breton, Ashley MacIsaac, a vu un concert prévu le vendredi dernier auprès de la Première Nation Sipekne’katik, située près d’Halifax, être annulé après que des dirigeants de la communauté aient découvert en ligne des accusations fallacieuses le concernant. Selon ces informations erronées, MacIsaac aurait été reconnu coupable de sollicitation sexuelle en ligne et d’agression sexuelle.
Ces allégations se sont avérées être le résultat d’une confusion engendrée par un résumé de recherche généré par l’IA de Google, qui a mélangé la biographie de MacIsaac avec celle d’un autre homme portant le même nom de famille, un résident de Terre-Neuve-et-Labrador. La Première Nation Sipekne’katik s’est depuis excusée auprès de MacIsaac, et Google a corrigé les résultats de recherche concernant le musicien.
Cet incident met en lumière les risques liés à la désinformation propagée par l’intelligence artificielle, alors que les entreprises technologiques se livrent une compétition acharnée dans ce domaine en pleine expansion. « Google a commis une erreur et cela m’a placé dans une situation dangereuse », a déclaré M. MacIsaac lors d’une entrevue.
L’expérience a laissé MacIsaac inquiet pour sa sécurité, craignant qu’une personne ayant vécu une agression sexuelle puisse être déclenchée par ces fausses informations et le confronter. Il s’inquiète également des potentielles pertes de contrats, si des organisateurs de spectacles ou des salles de concert décidaient de ne plus faire appel à lui en raison de cette désinformation circulant sur les moteurs de recherche.
Les conséquences pourraient également affecter sa capacité à se rendre aux États-Unis pour des concerts, compte tenu de l’intensification du contrôle des médias sociaux par les agents des douanes. MacIsaac considère son cas comme un avertissement pour les autres.
« Les gens doivent vérifier leur présence en ligne pour s’assurer que les informations qui les concernent sont exactes et ne sont pas confondues avec celles d’une autre personne », a-t-il souligné.
Ashley MacIsaac, musicien primé aux prix Juno, s’est fait connaître dans les années 1990 en fusionnant la musique de violon celtique avec des éléments de hip-hop, de musique électronique et de punk rock, tout en suscitant parfois la controverse par son comportement et ses propos, qu’il qualifiait plus tard de sarcastiques.
Le seul dossier judiciaire public concernant M. MacIsaac concerne une infraction à la loi sur le cannabis remontant à plus de deux décennies, pour laquelle il a reçu une amende et a bénéficié d’une décharge.
La Première Nation Sipekne’katik a présenté ses excuses à M. MacIsaac vendredi dernier, lui assurant qu’il serait le bienvenu pour se produire dans leur communauté à l’avenir.
« Nous regrettons profondément le tort que cette erreur a causé à votre réputation, à vos moyens de subsistance et à votre sentiment de sécurité personnelle », a écrit Stuart Knockwood, directeur exécutif de la Première Nation, au nom de son chef et de son conseil. Les représentants de la Première Nation Sipekne’katik n’ont pas répondu aux demandes de commentaires.
La lettre, que M. MacIsaac a partagée avec le Globe and Mail, poursuit : « Il est important pour nous de déclarer clairement que cette situation est le résultat d’une erreur d’identité causée par une erreur de l’IA, et non le reflet de qui vous êtes. »
Les informations apparaissant dans les résultats de recherche Google concernant le nom de M. MacIsaac ont évolué depuis qu’il en a parlé sur les réseaux sociaux la semaine dernière. Une recherche simple de son nom ne renvoie plus à une biographie générée par l’IA. Cependant, une recherche incluant à la fois son nom et une ville associée à l’autre M. MacIsaac indiquait encore, jeudi, qu’il avait été « reconnu coupable d’agression sexuelle ». Ce résumé n’est plus visible.
Dans un courriel, Wendy Manton, porte-parole de Google, a déclaré : « La recherche, y compris les aperçus de l’IA, est dynamique et change fréquemment pour afficher les informations les plus utiles. Lorsque des problèmes surviennent – par exemple si nos fonctionnalités interprètent mal le contenu Web ou manquent de contexte – nous utilisons ces exemples pour améliorer nos systèmes et pouvons prendre des mesures conformément à nos politiques. »
Internet est en pleine mutation avec l’adoption croissante de l’IA générative par les entreprises. Google, l’une des entreprises les plus valorisées au monde, s’est empressé d’intégrer des résumés de recherche générés par l’IA afin de maintenir son avance face à des concurrents tels que ChatGPT d’OpenAI. (Les médias canadiens, dont The Globe and Mail, ont intenté une action en justice contre OpenAI en 2024 pour violation présumée du droit d’auteur en utilisant du contenu d’actualités exclusif sans consentement ni rémunération pour former ses modèles.)
Clifton van der Linden, professeur agrégé à l’Université McMaster spécialisé dans la désinformation générée par l’IA, a décrit la situation de M. MacIsaac comme une conséquence du changement des attentes du public envers les moteurs de recherche à l’ère de l’IA.
« Nous assistons à une transition des moteurs de recherche, passant de simples navigateurs d’informations à de véritables narrateurs », a expliqué le professeur van der Linden. « Je dirais qu’il existe des preuves suggérant que les résumés générés par l’IA sont considérés comme faisant autorité par de nombreux utilisateurs. »
Selon lui, cela peut avoir des conséquences néfastes. Mais la course actuelle à l’armement en matière d’IA, dit-il, ne favorise pas la précision ; elle incite plutôt des entreprises comme Google à maintenir leur domination.
« Google cherche à reproduire la stratégie qui l’a mené à devenir le moteur de recherche par défaut dans le monde – en fournissant des résultats suffisamment fiables à un nombre suffisant de personnes pour qu’il devienne le moteur de recherche privilégié pour trouver des informations. »
