Publié le 24 novembre 2023 16:32:00. L’intelligence artificielle générative (IA générative) s’est rapidement intégrée à notre quotidien, transformant la manière dont nous accédons à l’information et effectuons diverses tâches. Mais cette démocratisation soulève des questions éthiques et exige une utilisation responsable, notamment en matière de confidentialité et de fiabilité des données.
- L’IA générative est utilisée pour des tâches variées, allant de l’aide aux devoirs à la planification de repas.
- Des préoccupations éthiques émergent concernant la protection de la vie privée, l’impact environnemental et le potentiel de manipulation de l’information.
- Il est crucial de développer un esprit critique pour évaluer la véracité des informations générées par l’IA et d’utiliser ces outils de manière éclairée.
Il y a trois ans, le 30 novembre, le lancement de ChatGPT a marqué un tournant dans l’accessibilité de l’intelligence artificielle générative (IA générative). Depuis, ces outils sont devenus omniprésents, utilisés par un large public pour des besoins aussi divers que l’amélioration de la grammaire, la prise de notes, l’organisation de loisirs ou encore la programmation informatique.
Lindsay Matts-Benson, responsable du programme d’enseignement et d’apprentissage aux bibliothèques de l’Université du Minnesota, souligne l’importance d’une utilisation réfléchie de ces technologies. Elle met en garde contre les risques liés à la confidentialité des données et à la transparence des algorithmes.
« L’équilibre entre la protection de la vie privée et le partage d’informations avec l’outil est une préoccupation majeure. Il n’y a pas toujours une clarté totale sur le fonctionnement interne de ces systèmes et sur la manière dont nos données sont utilisées. Par exemple, certains outils transforment des photos en images de style dessin animé, mais il est souvent difficile de savoir ce qu’il advient des images originales. »
Lindsay Matts-Benson, responsable du programme d’enseignement et d’apprentissage, bibliothèques de l’Université du Minnesota
L’impact environnemental des centres de données nécessaires au fonctionnement de l’IA et le risque de création de contenus biaisés ou malveillants sont également des sujets de préoccupation.
Pour une utilisation responsable, Mme Matts-Benson insiste sur la nécessité de comprendre les données sur lesquelles l’IA est entraînée. Ces ensembles de données ne sont pas exhaustifs et peuvent contenir des biais, conduisant à des réponses partiales ou inexactes. Il est donc essentiel de considérer les résultats de l’IA comme des probabilités, et non comme des vérités absolues.
« Tous les utilisateurs de l’IA doivent comprendre de quoi les outils GenAI apprennent – ce que contient l’ensemble de données. Cet ensemble de données n’inclut pas toutes les informations disponibles, mais plutôt une collection organisée de ressources qui peuvent délibérément exclure des informations. »
Lindsay Matts-Benson, responsable du programme d’enseignement et d’apprentissage, bibliothèques de l’Université du Minnesota
Elle conseille également de se questionner sur l’opportunité d’utiliser l’IA dans certaines situations, notamment pour des diagnostics médicaux ou des problèmes de santé mentale. Il est primordial de se demander pourquoi l’IA est la solution appropriée et de rester vigilant quant aux informations partagées avec ces outils.
En ce qui concerne la vérification des informations générées par l’IA, Mme Matts-Benson recommande de faire preuve d’esprit critique : évaluer la plausibilité des informations, rechercher des sources multiples et identifier les preuves et les citations qui étayent les affirmations. Pour les vidéos, elle suggère de surveiller les incohérences visuelles, les répétitions et les erreurs de synchronisation audio.
Les étudiants sont particulièrement confrontés à des dilemmes éthiques liés à l’utilisation de l’IA, notamment la tentation d’utiliser ces outils pour réaliser leurs devoirs sans réellement comprendre la matière. Il est important de trouver un équilibre entre l’efficacité de l’IA et l’apprentissage en profondeur.
L’Université du Minnesota s’engage à former les citoyens à une utilisation responsable de l’information. Lindsay Matts-Benson a notamment créé GenAI+U, un outil pédagogique destiné à améliorer la compréhension des outils d’IA générative par les étudiants. Cette ressource, accessible à tous, propose des modules d’apprentissage interactifs et des vidéos explicatives.
Lindsay Matts Benson est responsable du programme d’enseignement et d’apprentissage des bibliothèques de l’Université du Minnesota dans les villes jumelles. Elle se consacre à l’intégration de la maîtrise de l’information dans l’expérience étudiante.
À propos des bibliothèques de l’Université du Minnesota
Les bibliothèques de l’Université du Minnesota constituent une ressource stratégique pour le campus de Twin Cities et fournissent également un support d’information complet pour les quatre campus de l’université à Crookston, Duluth, Morris et Rochester. Avec plus de 8,1 millions de volumes et des collections spéciales évaluées à près d’un milliard de dollars, les bibliothèques de l’Université du Minnesota ont une longue tradition de collections de recherche et de partage de ressources. Plus d’informations sur lib.umn.edu.
À propos de « Parler… avec l’Université du Minnesota »
« Parler… avec l’Université du Minnesota » est une plateforme permettant à des experts de l’Université du Minnesota de répondre à des questions sur des sujets d’actualité. Les médias sont encouragés à republier ce contenu. Pour planifier une entrevue ou proposer des sujets, veuillez contacter les relations publiques de l’Université au [email protected].
