Des chatbots d’assureurs belges fonctionnant avec l’intelligence artificielle ont transmis de fausses informations à des clients, rapporte L’Echo. L’ombudsman des assurances avertit que ce phénomène risque de prendre de l’ampleur, soulignant les risques liés à l’utilisation de ces outils automatisés pour l’assistance client dans le secteur financier belge.
L’alerte de l’ombudsman des assurances
L’ombudsman des assurances a indiqué que la diffusion d’informations erronées par les agents conversationnels basés sur l’IA pourrait s’intensifier, selon les informations relayées par L’Echo. Cette tendance pose la question de la fiabilité des réponses fournies aux assurés lorsqu’ils interagissent avec des systèmes automatisés.
En Belgique, l’ombudsman des assurances joue un rôle de médiateur indépendant entre les clients et les compagnies d’assurance. Sa mission est de résoudre les litiges à l’amiable afin d’éviter le recours systématique aux tribunaux. L’intervention de cet organisme sur la question de l’IA souligne que les erreurs générées par les chatbots ne sont plus seulement des incidents techniques isolés, mais deviennent des sources potentielles de conflits juridiques et contractuels.
Le déploiement de ces outils s’inscrit dans une volonté globale du secteur financier d’optimiser la gestion de la relation client. L’objectif est généralement de réduire les coûts opérationnels et d’offrir une disponibilité 24h/24. Cependant, le passage de chatbots traditionnels — basés sur des arbres de décision rigides et prédéfinis — à des agents conversationnels basés sur l’intelligence artificielle générative a modifié la nature des erreurs. Là où les anciens systèmes avouaient leur incapacité à répondre, les nouveaux systèmes peuvent tenter de combler les lacunes de leur connaissance en générant des réponses plausibles mais fausses.
La difficulté de détection des erreurs
Le caractère trompeur de ces erreurs, souvent présentées avec assurance par la machine, complique la tâche des utilisateurs. Dans un commentaire publié sur la page Facebook de L’Echo, un intervenant a souligné que la détection de ces inexactitudes nécessite une expertise particulière.
C’est clair, l’IA se trompe souvent mais avec beaucoup d’aplomb. Seuls les plus experts peuvent en détecter_{u0020}leurs erreurs.
Ce phénomène est connu sous le terme technique d’« hallucination ». Dans le contexte des grands modèles de langage (LLM), une hallucination se produit lorsque l’IA génère une information qui n’est pas soutenue par ses données d’entraînement ou par les documents de référence fournis. Le risque est accru dans le domaine des assurances, où les contrats sont régis par des conditions générales complexes, des clauses d’exclusion et des réglementations strictes. Une erreur sur une condition de remboursement ou sur l’étendue d’une couverture peut avoir des conséquences financières directes pour l’assuré.
Contexte réglementaire et enjeux
L’utilisation de l’IA dans les services financiers en Europe s’inscrit désormais dans le cadre du Règlement sur l’IA (AI Act) de l’Union européenne. Ce texte législatif vise à encadrer le déploiement des systèmes d’IA en fonction de leur niveau de risque. Si les chatbots de service client ne sont pas systématiquement classés comme « à haut risque », ils restent soumis à des obligations de transparence. Les utilisateurs doivent être informés qu’ils interagissent avec une machine, et les fournisseurs doivent veiller à ce que les systèmes soient suffisamment robustes pour minimiser les risques d’erreurs graves.
Le problème soulevé par l’ombudsman met en lumière un défi majeur pour les assureurs : la responsabilité juridique. Lorsqu’un agent humain fournit une information erronée, la responsabilité de l’entreprise est généralement engagée. Avec l’IA, la question de savoir si une réponse automatisée constitue un engagement contractuel ferme de la part de l’assureur reste un point de tension. Si un client agit en fonction d’une information fausse donnée par un chatbot, il pourrait invoquer le principe de la confiance légitime pour demander réparation.
Pour pallier ces risques, plusieurs méthodes de contrôle sont généralement envisagées par les institutions financières, notamment le « RAG » (Retrieval-Augmented Generation). Cette technique consiste à forcer l’IA à puiser ses réponses uniquement dans une base de documents internes vérifiés plutôt que de s’appuyer sur ses connaissances générales. Malgré cela, comme le souligne l’alerte de l’ombudsman, la perfection technique n’est pas encore atteinte, et la vigilance humaine demeure indispensable pour valider les informations critiques transmises aux clients.
Find more reporting in our Technologie et science section.