Les assistants populaires du navigateur Web génératif collectent et partagent des données sensibles, telles que les dossiers médicaux et les numéros de sécurité sociale, sans garanties adéquates, trouve une nouvelle étude menée par des chercheurs de l’UCL, UC Davis et de l’Université méditerranéenne de Reggio Calabria.
L’étude, qui sera présentée et publiée dans le cadre du Symposium de sécurité UsenixIl s’agit de la première analyse à grande échelle des assistants et de la confidentialité du navigateur génératif. Il a découvert des pratiques de surveillance, de profilage et de personnalisation du vide qui posent de graves problèmes de confidentialité, les auteurs demandant une plus grande transparence et contrôle des utilisateurs sur les pratiques de collecte et de partage de données.
Les chercheurs ont analysé dix des extensions de navigateur génératives les plus populaires, telles que Chatgpt pour Google, Merlin et Microsoft Copilot. Ces outils, qui doivent être téléchargés et installés pour une utilisation, sont conçus pour améliorer la navigation Web avec des fonctionnalités basées sur l’intelligence artificielle telles que le résumé et l’assistance de recherche, mais ont été trouvés pour collecter des données personnelles auprès des activités Web des utilisateurs.
L’analyse a révélé que plusieurs assistants ont transmis le contenu complet de la page Web, y compris toutes les informations visibles à l’écran – à leurs serveurs. Un assistant, Merlin, a même capturé les intrants de modules comme détails de banque en ligne ou données de santé.
Des extensions telles que Sider et Tinamind ont partagé les questions et les informations des utilisateurs qui pourraient les identifier (comme leur adresse IP) avec des plateformes telles que Google Analytics, permettant le suivi et le ciblage potentiels des publicités.
Chatgpt pour Google, Copilot, Monica et Sider ont montré la possibilité de déduire les attributs des utilisateurs tels que l’âge, le sexe, les revenus et les intérêts et ont utilisé ces informations pour personnaliser les réponses, également par différentes séances de navigation.
Seul un assistant, la perplexité, n’a montré aucune preuve de profilage ou de personnalisation.
Le Dr Anna Maria Mandalalar, auteur principal de l’UCL Electronic & Electrical Engineering Study, a déclaré: « Bien que de nombreuses personnes soient conscientes que les moteurs de recherche et les plateformes de médias sociaux collectent des informations à leur sujet pour la publicité ciblée, ces navigateurs d’intelligence artificielle fonctionnent avec les dépenses sans précédent, les coûts n’étaient pas les coûts, les travaux et non les offres, les offres, les œuvres n’étaient pas avec les dépenses.
« Cette collecte et le partage de données ne sont pas triviaux. En plus de la vente ou du partage de données avec des tiers, dans un monde où des hacks de données énormes sont fréquents, il n’y a aucun moyen de savoir ce qui se passe avec vos données de navigation une fois collectées. »
Pour l’étude, les chercheurs ont simulé des scénarios de navigation dans le monde réel, créant la personne d’un «homme riche et millénaire de Californie», qui interagissait avec les assistants du navigateur tout en terminant des activités en ligne courantes.
Cela comprenait des activités à la fois dans l’espace public (déconnecte), comme la lecture des nouvelles en ligne, les achats sur Amazon ou la vue vidéo YouTube.
Il a également inclus des activités dans l’espace privé (logé), comme l’accès à un portail de santé universitaire, l’accès à un service de service ou l’accès à la pornographie. Les chercheurs ont émis l’hypothèse que les utilisateurs ne voudraient pas surveiller cette activité en raison de données personnelles et sensibles.
Au cours de la simulation, les chercheurs ont intercepté et déchiffré le trafic entre les assistants du navigateur, leurs serveurs et les troisième partisans, leur permettant d’analyser les données qui se sont déroulées à l’intérieur et à l’extérieur en temps réel. Ils ont également testé si les assistants pouvaient déduire et se souvenir des caractéristiques des utilisateurs en fonction du comportement de navigation, leur demandant de résumer les pages Web et de poser des questions assistantes, telles que « quel était l’objectif de l’examen médical actuel? » Après avoir accédé à un portail de santé en ligne, pour voir s’ils avaient maintenu les données personnelles.
Les expériences ont révélé que certains assistants, y compris Merlin et Sider, n’ont pas interrompu l’activité d’enregistrement lorsque l’utilisateur est allé dans l’espace privé comme ils sont prévus.
Les auteurs disent que l’étude met en évidence le besoin urgent de supervision réglementaire des assistants du navigateur dans le but de protéger les données personnelles des utilisateurs. Il a été découvert que certains assistants violent les lois américaines sur la protection des données telles que la portabilité et la responsabilité de l’assurance maladie (HIPAA) et la Family Educational Rights and Privacy Act (FERPA) en collectant des informations sur la santé et l’éducation protégées.
L’étude a été menée aux États-Unis et, par conséquent, la compatibilité avec les lois sur les données britanniques / l’UE, car le RGPD n’a pas été inclus, mais les auteurs disent que ce serait probablement une violation même à l’UE et au Royaume-Uni, étant donné que les règlements de la vie privée dans ces lieux sont plus rigoureux.
Les auteurs recommandent aux développeurs d’adopter des principes de confidentialité pour la conception, tels que le traitement local ou le consentement explicite des utilisateurs pour la collecte de données.
Le Dr Aurelio Canino, auteur de l’étude de l’UCL Electronic & Electrical Engineering et de l’Université méditerranéenne de Reggio Calabria, a déclaré: « Alors que l’intelligence artificielle générative devient plus incorporée dans notre vie numérique, nous devons garantir que la confidentialité n’est pas sacrifiée pour le confort. Notre travail établit les fondements de réglementation future et de transparence dans cet espace dans l’évolution rapide. »
/ Libération publique. Ce matériel de l’organisation / des auteurs d’auteurs d’origine pourrait être de nature ponctuelle et modifié pour la clarté, le style et la longueur. Mirage.News ne prend pas les positions ou les côtés institutionnels et toutes les opinions, positions et conclusions exprimées dans ce document ne sont que celles des auteurs. Voir entièrement ici.