Davantage de travail est nécessaire pour atténuer les préoccupations du public en matière de confidentialité en matière d’IA : rapport

Les organisations ne font pas beaucoup de progrès pour convaincre le public que leurs données sont utilisées de manière responsable dans les applications d’intelligence artificielle, suggère une nouvelle enquête.

Le rapport, la septième étude annuelle de référence sur la confidentialité des données de Cisco Systems, a été publié jeudi dans le cadre de la Semaine de la confidentialité des données.

Il comprend les réponses de 2 600 professionnels de la sécurité et de la confidentialité en Australie, au Brésil, en Chine, en France, en Allemagne, en Inde, en Italie, au Japon, au Mexique, en Espagne, au Royaume-Uni et aux États-Unis. L’enquête a été réalisée à l’été 2023.

Parmi les résultats, 91 % des personnes interrogées ont convenu qu’elles devaient faire davantage pour rassurer les clients sur le fait que leurs données étaient utilisées uniquement à des fins prévues et légitimes dans le cadre de l’IA.

“Cela est similaire aux niveaux de l’année dernière”, a déclaré Cisco dans un communiqué de presse accompagnant le rapport, “ce qui suggère que peu de processus ont été réalisés”.

La plupart des personnes interrogées ont déclaré que leurs organisations limitaient l’utilisation de l’IA générative (GenAI) pour des raisons de confidentialité et de sécurité des données. Vingt-sept pour cent ont déclaré que leur entreprise avait interdit son utilisation, au moins temporairement.

Les clients souhaitent de plus en plus acheter auprès d’organisations auxquelles ils peuvent faire confiance avec leurs données, indique le rapport, 94 % des personnes interrogées conviennent que leurs clients n’achèteraient pas chez elles si elles ne protégeaient pas correctement leurs données.

De nombreuses réponses à l’enquête montrent que les organisations reconnaissent que la confidentialité est un facteur essentiel de la confiance des clients. Quatre-vingt pour cent des personnes interrogées ont déclaré que leur entreprise tirait des avantages significatifs en termes de fidélité et de confiance de son investissement dans la confidentialité. Cela représente une hausse par rapport aux 75 % de l’enquête de 2022 et aux 71 % de l’enquête de 2021.

Presque tous (98 %) des répondants de cette année ont déclaré qu’ils communiquaient au moins un indicateur de confidentialité au conseil d’administration, et plus de la moitié en rapportaient trois ou plus. Selon le rapport, bon nombre des principaux indicateurs de confidentialité sont étroitement liés aux questions de confiance des clients, notamment les résultats d’audit (44 %), les violations de données (43 %), les demandes des personnes concernées (31 %) et la réponse aux incidents (29 %). pour cent).

Cependant, seulement 17 pour cent ont déclaré qu’ils signalaient à leur conseil d’administration les progrès réalisés dans la mise en œuvre d’un modèle de maturité en matière de confidentialité conforme aux normes de l’industrie, et seulement 27 pour cent signalaient les lacunes constatées en matière de protection de la vie privée.

Les personnes interrogées dans le rapport de cette année estiment que les avantages financiers de la confidentialité restent plus élevés que lorsque Cisco a commencé à les suivre il y a quatre ans, mais avec une différence notable. En moyenne, ils estiment les bénéfices en 2023 à 2,9 millions de dollars. Ce chiffre est inférieur au sommet de 3,4 millions de dollars de l’année dernière, avec des réductions similaires dans les grandes et petites organisations.

« Les causes de ce phénomène ne sont pas claires », indique le rapport, « puisque la plupart des autres indicateurs financiers, tels que les répondants affirmant que les avantages en matière de confidentialité dépassent les coûts, les répondants obtenant des avantages financiers significatifs grâce à l’investissement dans la confidentialité et les calculs de retour sur investissement (ROI) , tous pointent vers une économie plus positive. Nous continuerons à suivre
cela dans le cadre de recherches futures pour identifier s’il s’agit d’une aberration ou d’une tendance à plus long terme.

L’un des défis auxquels sont confrontées les organisations lorsqu’il s’agit d’instaurer la confiance avec les données est que leurs
les priorités peuvent différer quelque peu de celles de leurs clients, indique le rapport. Les consommateurs interrogés ont déclaré que leurs principales priorités en matière de confidentialité étaient d’obtenir des informations claires sur la manière exacte dont leurs données sont utilisées (37 %) et de ne pas vendre leurs données à des fins de marketing (24 %). Les professionnels de la protection de la vie privée ont déclaré que leurs principales priorités étaient de se conformer aux lois sur la protection de la vie privée (25 %) et d’éviter les violations de données (23 %).

« Bien que ce soient tous des objectifs importants [for firms]”, cela suggère qu’une attention supplémentaire sur la transparence serait utile aux clients, en particulier avec les applications d’IA où il peut être difficile de comprendre comment les algorithmes d’IA prennent leurs décisions”, indique le rapport.

Le rapport recommande aux organisations :

— être plus transparents dans la manière dont ils appliquent, gèrent et utilisent les données personnelles, car cela contribuera grandement à bâtir et à maintenir la confiance des clients ;
— établir des protections, telles que des programmes de gestion de l’éthique de l’IA, impliquant les humains dans le
processus et s’efforcer de supprimer tout biais dans les algorithmes, lors de l’utilisation de l’IA à des fins automatisées.
prise de décision impliquant les données des clients ;
— appliquer des mécanismes de contrôle appropriés et sensibiliser les collaborateurs aux risques associés aux applications d’IA générative ;
— continuer à investir dans la confidentialité pour en tirer d’importants avantages commerciaux et économiques.