Publié le 26 octobre 2023 10:15:00. Les données synthétiques, créées de toutes pièces pour simuler des réalités complexes, se multiplient dans des secteurs aussi variés que la finance, le commerce en ligne et la politique publique. Mais cette prolifération soulève des questions éthiques cruciales quant à la fiabilité des décisions prises sur la base de ces simulations.
- Les données synthétiques permettent de tester des scénarios de fraude, d’anticiper les risques et de développer des solutions innovantes, notamment dans le secteur de la fintech en Amérique latine.
- Elles sont également utilisées par les gouvernements pour élaborer des politiques publiques en l’absence de statistiques fiables ou de recensements réguliers.
- La validation de ces données avec la réalité est essentielle pour éviter de reproduire ou d’amplifier les biais existants.
Dans le secteur bancaire et le commerce électronique, une nouvelle tendance émerge : l’utilisation de données synthétiques. Ces données, entièrement artificielles, sont conçues pour imiter des comportements, des fraudes potentielles et des scénarios de risque qui n’existent pas encore dans le monde réel. L’objectif ? Anticiper les problèmes et concevoir des solutions plus efficaces, un atout majeur pour les nombreuses entreprises de fintech qui se développent rapidement en Amérique latine.
Mais l’application de ces données ne se limite pas au secteur privé. Les gouvernements commencent également à s’y intéresser, notamment dans les contextes où les statistiques sont lacunaires ou les recensements peu fréquents (effectués tous les dix ans, par exemple). Les données synthétiques offrent alors la possibilité de modéliser des populations et de simuler l’impact de différentes politiques publiques.
Cependant, l’enthousiasme suscité par ces nouvelles technologies doit être tempéré par une vigilance accrue. Si les données synthétiques présentent un potentiel indéniable pour simuler des scénarios variés et entraîner des modèles d’intelligence artificielle plus robustes, il est impératif de les valider rigoureusement avec la réalité. Le risque, sinon, est de reproduire, voire d’amplifier, les biais existants.
« Les données synthétiques ont un grand potentiel pour protéger la vie privée, en particulier dans des contextes où le partage de données réelles peut enfreindre les réglementations ou compromettre des informations sensibles. »
Mauricio Mora, Sr. Data Science Manager chez BBVA
Mauricio Mora souligne l’importance de la manière dont ces données sont générées : « Cependant, leur capacité à réduire les biais dépend en grande partie de la manière dont elles sont générées. Si le modèle générateur apprend des données biaisées, il reproduira ou même amplifiera ces biais. Autrement dit, il ne suffit pas que les données soient synthétiques, elles doivent également être soigneusement conçues et validées afin de ne pas perpétuer les mêmes inégalités dans le monde réel. »
Initialement conçues pour anonymiser les données personnelles, les techniques de création de données synthétiques ont dépassé ce simple objectif. Elles ne se contentent plus de représenter ce qui existe, mais génèrent des scénarios, des profils, des comportements et même des mondes entiers qui n’ont jamais existé. Cette évolution pose une question fondamentale : que se passe-t-il lorsque l’intelligence artificielle se base sur une « vérité » qui n’est, au fond, qu’une simulation ?
Au-delà des préoccupations classiques liées aux biais, cette nouvelle ère où les données sont au cœur de nombreuses solutions implique que des décisions ayant un impact social et politique pourraient être conditionnées par des informations fabriquées ou déduites, et non par des faits avérés. La prolifération de cette « société synthétique » soulève des dilemmes éthiques profonds : comment vérifier l’éthique de modèles entraînés avec des mondes inexistants ? Qui est responsable si une intelligence artificielle, alimentée par des fictions, prend des décisions réglementaires ou médicales qui affectent des millions de personnes ?
Pour garantir que les données synthétiques utilisées reflètent les réalités locales et ne se limitent pas à des scénarios artificiels, les experts recommandent une approche rigoureuse. Celle-ci doit inclure une combinaison de techniques statistiques, de tests de robustesse et de validation empirique avec des données réelles.
« Certaines bonnes pratiques incluent des processus tels que la comparaison des distributions entre les données synthétiques et réelles pour garantir qu’elles capturent correctement les caractéristiques locales ; l’évaluation des performances des modèles formés avec des données synthétiques dans des scénarios réels, en utilisant des mesures telles que la précision, le rappel et la F1 sur des ensembles de tests représentatifs ; des audits et examens éthiques par des experts du domaine, qui peuvent détecter des biais ou des incohérences que les modèles automatiques ne voient pas ; et une transparence totale dans la génération pour savoir quelles variables, sources et algorithmes ont été utilisés pour générer les données. Cela nous permet d’en comprendre les limites. »
Mauricio Mora, Sr. Data Science Manager chez BBVA
Alors que 55 % des Latino-Américains se disent favorables à une régulation de l’intelligence artificielle, la frontière entre simulation et réalité devient de plus en plus floue. Nous risquons ainsi de remettre en question le principe fondamental de la vérification : la capacité de confronter une affirmation à une expérience vécue ou à des preuves tangibles.
Dans ce nouveau monde dominé par les algorithmes et les développements artificiels, la transparence promise par certaines entreprises ne suffit plus. Des mécanismes d’audit, des limites claires et des cadres réglementaires sont nécessaires pour comprendre et contrôler le pouvoir des données synthétiques dans la construction de vérités partagées. Car si nous laissons les fondements des connaissances sociales et économiques entre les mains de la simulation, nous pourrions fonder notre réalité sur une fiction soigneusement orchestrée et, ce faisant, fragmenter la confiance collective.