Bien que 2022 ait été marquée par des licenciements massifs dans la technologie, elle a également vu l’émergence de l’intelligence artificielle générative (IA) qui a été poussée à l’adoption massive par des acteurs comme ChatGPT d’OpenAI.
Depuis le début de la nouvelle année, les startups et les grandes entreprises se font concurrence pour lancer des produits qui utilisent l’IA générative, notamment Microsoft Bing et Google.
“Cela signifie qu’il faut travailler à des systèmes d’IA centrés sur l’humain… ainsi que faire respecter les droits de l’homme et l’état de droit.”
Un point de discorde majeur dans l’IA, cependant, est le manque de responsabilité et de transparence dans ses modèles de données et ses processus de formation. Il y a eu plusieurs rapports d’itérations précoces et récentes de ChatGPT produisant des textes inappropriés et faisant preuve de tolérance au sexisme et au racisme.
Les plates-formes basées sur l’IA ont tendance à refléter les préjugés humains ainsi que les inégalités historiques ou sociales. La préoccupation, cependant, réside dans le fait que le biais de l’IA peut causer des dommages réels, comme des arrestations injustifiées ou le refus d’accès à certains services.
Dans le but d’établir les normes d’utilisation éthique et inclusive de la technologie, l’institut d’IA de Montréal Mila s’est associé à l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO) pour publier un livre conjoint sur la gouvernance de l’IA.
Avec ce livre, intitulé Missing Links in AI Governance, Mila et l’UNESCO ont déclaré vouloir offrir des “perspectives fructueuses” pour aider à façonner le développement de l’IA afin que “personne ne soit laissé pour compte”.
“Cela signifie travailler à des systèmes d’IA centrés sur l’humain, inclusifs, éthiques, durables, ainsi que dans le respect des droits de l’homme et de l’État de droit”, lit-on dans une partie de l’introduction du livre.
Selon une déclaration conjointe de l’UNESCO et de Mila, le livre traite de l’influence de l’IA sur les communautés autochtones et LGBTQ+, de la nécessaire inclusion des pays du Sud dans la gouvernance mondiale et de l’utilisation de l’IA pour soutenir l’innovation à des fins socialement bénéfiques. Il explore également l’utilisation de l’IA dans des contextes potentiellement dangereux comme les armes autonomes ou la “manipulation de contenu numérique à des fins de déstabilisation sociale”.
EN RELATION : L’IA générative testera ce qui est pire : des données biaisées ou la mauvaise foi des utilisateurs
Le livre comprend 18 articles sur la gouvernance de l’IA rédigés par des universitaires, des représentants de la société civile, des innovateurs et des décideurs politiques. Le leader canadien de l’IA et fondateur de Mila, Yoshua Bengio, a co-écrit un article intitulé “Innovation ecosystems for socialement Benefit AI” aux côtés de ses collègues chercheurs de Mila, Allison Cohen, Benjamin Prud’homme, Amanda Leal De Lima Alves et Noah Oder.
Fondée en 1993, Mila prétend avoir une communauté de plus de 1 000 chercheurs, avec plusieurs membres menant des recherches à l’intersection de l’IA et de la durabilité, de la santé, de l’équité, de l’éthique et de la gouvernance.
Mila a dirigé plusieurs initiatives pour une IA responsable dans le passé, comme la codirection du Dialogue inclusif sur l’éthique de l’IA avec le laboratoire Algora de l’Université de Montréal, dans le cadre du processus menant à l’adoption de la Recommandation de l’UNESCO sur l’éthique de l’IA. en 2020.
This joint book with UNESCO was partially funded by the Ministère des Relations internationales et de la Francophonie du Québec (Québec’s Ministry of International Relations and La Francophonie) and the Fonds de recherche du Québec (Québec’s research fund), according to Mila.
Image en vedette avec l’aimable autorisation de Mila.
