Les chatbots, devenus omniprésents dans les entreprises, ne sont pas toujours fiables : ils peuvent inventer jusqu’à 40 % de leurs réponses. Cette propension à l’hallucination soulève une question cruciale : qui sera tenu responsable des préjudices causés par ces erreurs, et les assureurs sont-ils prêts à prendre le risque ?
L’affaire Jake Moffatt illustre parfaitement ce problème. Le 14 février 2024, cet homme a remporté un litige contre la compagnie aérienne Air Canada, après qu’un chatbot sur le site web de la compagnie lui ait fourni des informations erronées sur les coûts d’un vol. Moffatt avait réservé un billet de dernière minute suite au décès de sa grand-mère, en se basant sur l’assurance, donnée par le chatbot, qu’une réduction pour deuil serait applicable. Or, cette réduction n’existait pas. Le tribunal a jugé qu’Air Canada était responsable des informations diffusées par son chatbot, considérant celui-ci comme faisant partie intégrante de son site internet.
Ce type d’incident se multiplie, alors que presque toutes les entreprises utilisent désormais des modèles de langage tels que ChatGPT, Gemini ou Perplexity. Une étude récente de l’Union européenne de radiodiffusion (UER) a confirmé la fiabilité limitée de ces systèmes, révélant que les chatbots peuvent inventer jusqu’à 40 % de leurs réponses.
Face à ce risque croissant, les compagnies d’assurance se montrent de plus en plus réticentes à couvrir les dommages potentiels. Selon un rapport du Financial Times, plusieurs assureurs internationaux, dont American International Group (AIG), Great American et WR Berkley, ont demandé aux autorités américaines l’autorisation d’exclure les risques liés à l’IA de leurs contrats. AIG a démenti les « inexactitudes » rapportées par le Financial Times, affirmant qu’aucune exclusion n’était actuellement prévue.
Isabelle Wildhaber, professeure de droit privé et commercial à l’Université de Saint-Gall, comprend cette prudence : « Si j’étais à la tête d’une compagnie d’assurance, je me demanderais certainement si je veux couvrir tous les risques liés à l’IA. » Elle suppose que les assureurs suisses étudient également des moyens d’exclure ces risques de leurs polices.
Christian Djeffal, professeur de droit, d’innovation et de conception juridique à l’Université technique de Munich (TUM), explique que l’exclusion est logique du point de vue des assureurs : « Ils peuvent actuellement difficilement calculer les risques de l’intelligence artificielle et les intégrer dans leurs modèles. » Contrairement à l’assurance automobile, où la fréquence des accidents peut être estimée avec une certaine précision, le comportement des modèles de langage reste imprévisible et difficile à quantifier.
L’Association Suisse d’Assurances (SVV) souligne le manque de clarté juridique concernant la responsabilité en matière d’IA : « Il n’est actuellement pas possible de répondre de manière générale à la question de savoir qui doit payer les dommages. » Elle insiste toutefois sur la responsabilité des entreprises utilisant l’IA : « Il n’est pas acceptable d’utiliser les avantages de l’IA pour augmenter les profits et en même temps d’attendre que les assureurs interviennent en cas de problème. »
Les réassureurs, tels que Munich Re et Swiss Re, se montrent également prudents. Munich Re estime qu’il est encore trop tôt pour anticiper l’émergence d’exclusions sur le marché, tandis que Swiss Re et Zurich Insurance se refusent à tout commentaire. Allianz Commercial indique qu’elle évalue chaque client individuellement. La Finma, l’autorité de régulation suisse, affirme qu’elle n’a « actuellement connaissance d’aucune clause d’exclusion spécifique sur le marché suisse ».
Une exclusion des risques liés à l’IA pourrait avoir des conséquences économiques importantes, obligeant les entreprises à assumer elles-mêmes les coûts des dommages. Cela pourrait freiner l’adoption de l’IA et désavantager les entreprises sur le plan concurrentiel. Le professeur Djeffal met en garde contre une telle évolution : « Cela pourrait devenir un énorme problème pour la société dans son ensemble. » Il préconise une réglementation légale, comme la loi européenne sur l’IA, pour rendre les risques systémiques gérables.
Pour Jake Moffatt, l’erreur du chatbot s’est finalement soldée par un dédommagement de plus de 400 francs suisses (environ 410 euros). Un cadeau de Saint-Valentin inattendu.
Sur le même sujet
