Responsabilité juridique : quand l’intelligence artificielle engage les entreprises
Un tribunal canadien a statué que la compagnie aérienne Air Canada est responsable des informations erronées fournies par son agent conversationnel. L’affaire, rapportée par Radio-Canada, concerne des promesses de tarifs de deuil contraires aux politiques réelles de l’entreprise, établissant un précédent sur la responsabilité juridique des systèmes d’intelligence artificielle.
L’erreur de l’agent conversationnel d’Air Canada
Le litige est apparu lorsqu’un passager a utilisé le chatbot d’Air Canada pour obtenir des précisions sur les modalités d’application d’un tarif de deuil. Ces tarifs sont des réductions spécifiques destinées aux voyageurs devant assister à des funérailles. L’intelligence artificielle a affirmé qu’il était possible d’obtenir ce tarif après l’achat du billet, une information qui contredit directement les conditions de vente de la compagnie.
Selon les politiques de la compagnie aérienne, les demandes de tarifs de deuil doivent généralement être traitées avant ou au moment de la réservation, et des documents justificatifs doivent être fournis pour valider la demande. En affirmant que le passager pouvait régulariser sa situation après coup, l’agent conversationnel a induit le client en erreur, l’amenant à effectuer un achat qu’il n’aurait peut-être pas fait s’il avait eu connaissance des conditions réelles.
La défense de l’entreprise : l’argument de l’entité distincte
Pour se défendre, Air Canada a présenté un argument juridique inhabituel. La compagnie a tenté de soutenir que son agent conversationnel était une entité juridique distincte de l’entreprise elle-même. En suivant cette logique, la compagnie aérienne soutenait qu’elle ne pouvait être tenue responsable des déclarations ou des erreurs commises par cet outil automatisé, le considérant comme un tiers plutôt que comme un représentant direct de la société.
Cette stratégie visait à créer une rupture de responsabilité entre les actions de l’algorithme et les obligations contractuelles de la compagnie. Cependant, cette distinction a été rejetée par le tribunal, qui a refusé de reconnaître un outil technologique comme une entité capable de s’extraire de la responsabilité de son propriétaire ou de son utilisateur.
Une décision de justice sur la responsabilité des robots
Le tribunal a rejeté la position de la compagnie aérienne qui tentait de décliner toute responsabilité pour les propos de son outil automatisé. La décision confirme que l’agent conversationnel agit comme un représentant de l’entreprise auprès de ses clients.
En droit, ce principe s’apparente à la notion d’agence : lorsqu’une entreprise déploie un outil pour interagir avec son public, elle assume les conséquences des informations que cet outil transmet. Le tribunal a considéré que l’entreprise ne peut pas choisir de bénéficier de l’efficacité de l’automatisation tout en rejetant les erreurs inhérentes à cette même automatisation.
La compagnie ne peut pas se décharger de sa responsabilité en invoquant les erreurs d’un outil qu’elle a elle-même mis en place pour interagir avec ses clients.Radio-Canada
Comprendre les limites techniques : le problème des « hallucinations »
L’erreur commise par le chatbot d’Air Canada illustre un défi technique majeur lié aux modèles de langage utilisés dans l’intelligence artificielle générative : le phénomène de l’hallucination. Les modèles d’IA ne consultent pas toujours une base de données de faits de manière déterministe ; ils fonctionnent par prédiction statistique de mots et de concepts.
Lorsqu’un chatbot est confronté à une question complexe ou à une zone d’ombre dans ses données d’entraînement, il peut générer une réponse qui semble parfaitement cohérente et grammaticalement correcte, mais qui est factuellement fausse. Dans ce cas précis, l’IA a produit une réponse plausible sur la procédure de tarif de deuil, tout en étant en contradiction totale avec les règles internes de l’entreprise. Ce décalage entre la forme (une réponse assurée) et le fond (une information erronée) est au cœur des risques juridiques actuels.
Les risques de l’automatisation pour les entreprises
L’utilisation croissante de l’intelligence artificielle générative dans le service client expose les organisations à des risques de litiges accrus. Bien que ces outils améliorent la réactivité et permettent de traiter un volume important de demandes sans intervention humaine constante, ils peuvent produire des réponses inexactes ou des promesses non contractuelles.
La décision de justice dans l’affaire Air Canada marque un tournant : elle signifie que les erreurs algorithmiques ne sont plus considérées comme des incidents techniques imprévisibles, mais comme des erreurs de service client au même titre que celles commises par un employé humain. Les entreprises doivent désormais traiter les sorties de leurs modèles d’IA avec la même rigueur que les communications de leurs employés humains pour éviter des conséquences financières et juridiques. Cela implique une surveillance accrue, des tests de conformité rigoureux et la mise en place de garde-fous pour s’assurer que l’IA respecte strictement les politiques commerciales de l’organisation.
Find more reporting in our Technologie et science section.