Les penseurs de l’intelligence artificielle semblent émerger de deux communautés. L’un est ce que j’appelle les visionnaires du ciel bleu qui spéculent sur les possibilités futures de la technologie, invoquant des fantasmes utopiques pour générer de l’excitation. Les idées du ciel bleu sont convaincantes mais sont souvent assombries par des visions irréalistes et les défis éthiques de ce qui peut et doit être construit.
En revanche, ce que j’appelle les pragmatiques aux bottes boueuses sont axés sur les problèmes et les solutions. Ils veulent réduire les dommages que les systèmes largement utilisés infusés d’IA peuvent créer. Ils se concentrent sur la réparation de systèmes biaisés et défectueux, tels que les systèmes de reconnaissance faciale qui identifient souvent à tort des personnes comme des criminels ou violent la vie privée. Les pragmatiques veulent réduire les erreurs médicales mortelles que l’IA peut commettre et faire en sorte que les voitures autonomes soient des voitures sûres. Leur objectif est également d’améliorer les décisions basées sur l’IA concernant les prêts hypothécaires, les admissions à l’université, l’embauche et l’octroi de la libération conditionnelle.
En tant que professeur d’informatique avec une longue expérience dans la conception d’applications innovantes qui ont été largement mises en œuvre, je pense que les visionnaires du ciel bleu gagneraient à prendre les messages réfléchis des réalistes aux bottes boueuses. La combinaison du travail des deux camps est plus susceptible de produire les résultats bénéfiques qui conduiront au succès des technologies de la prochaine génération.
Alors que la pensée futuriste des spéculateurs du ciel bleu suscite notre admiration et gagne une grande partie du financement, la pensée des bottes boueuses nous rappelle que certaines applications d’IA menacent la vie privée, propagent la désinformation et sont résolument racistes, sexistes et autrement douteuses sur le plan éthique. Les machines font indéniablement partie de notre avenir, mais serviront-elles également tous les futurs humains ? Je pense que la prudence et l’aspect pratique du camp des bottes boueuses profiteront à l’humanité à court et à long terme en garantissant la diversité et l’égalité dans le développement des algorithmes qui régissent de plus en plus notre vie quotidienne. Si les penseurs du ciel bleu intègrent les préoccupations des réalistes aux bottes boueuses dans leurs conceptions, ils peuvent créer des technologies futures plus susceptibles de faire progresser les valeurs, les droits et la dignité humains.
La pensée du ciel bleu a commencé tôt dans le développement de l’IA. La littérature était dominée par des auteurs pionniers de la technologie et annonçant son inévitable transformation de la société. Les “pères” de l’IA sont généralement considérés comme Marvin Minsky et John McCarthy du MIT et Allen Newell et Herb Simon de l’Université Carnegie Mellon. Ils se sont réunis lors de réunions, telles que la Conférence de Dartmouth de 1956, suscitant un enthousiasme illustré par la prédiction de Simon en 1965 selon laquelle “les machines seront capables, d’ici 20 ans, de faire n’importe quel travail qu’un homme peut faire”.
Il y a eu de nombreux autres contributeurs à l’IA, dont les trois lauréats du prix Turing en 2018 : Geoffrey Hinton, Yoshua Bengio et Yann LeCun. Leur travail sur les algorithmes d’apprentissage en profondeur a été une contribution importante, mais leurs célébrations continues de l’importance et de l’inévitabilité de l’IA comprenaient la citation troublante de Hinton en 2016 selon laquelle «les gens devraient arrêter de former des radiologues maintenant. Il est tout à fait évident que d’ici cinq ans, l’apprentissage en profondeur fera mieux que les radiologues. Une vision plus centrée sur l’humain est que les algorithmes d’apprentissage en profondeur deviendront un autre outil, comme les mammographies et les tests sanguins, qui permettront aux radiologues et autres cliniciens de poser des diagnostics plus précis et d’offrir des plans de traitement plus appropriés.
Le thème des robots remplaçant les gens, créant ainsi un chômage généralisé, a été légitimé par un rapport de 2013 de l’Université d’Oxford, qui affirmait que 47 % de tous les emplois pouvaient être automatisés. Livre de 2015 du futuriste Martin Ford L’ascension des robots se sont accrochés à cette idée, brossant un tableau troublant d’emplois peu et hautement qualifiés devenant si complètement automatisés que les gouvernements devraient fournir un revenu de base universel car il resterait peu d’emplois. La réalité est qu’une automatisation bien conçue augmente la productivité, ce qui fait baisser les prix, augmente la demande et apporte des avantages à de nombreuses personnes. Ces changements déclenchent un phénomène parallèle de création vigoureuse de nouveaux emplois, qui a contribué aux niveaux élevés d’emploi actuels aux États-Unis et dans d’autres pays.
Oui, il y avait des auteurs qui proposaient des récits édifiants et une vision différente, comme le professeur du MIT Joseph Weizenbaum dans son livre de 1976 Puissance informatique et raison humaine, mais c’étaient des exceptions.
Les pragmatiques aux bottes boueuses ont lancé une nouvelle vague de critiques réfléchies de l’IA. Ils ont fait passer la discussion d’un optimisme optimiste à une identification claire des menaces à la dignité humaine, à l’équité et à la démocratie. Des articles d’opinion et un symposium de la Maison Blanche en 2016 ont été des initiatives utiles, et le livre de 2016 de la mathématicienne Cathy O’Neil Armes de destruction mathématique élargi le public. Elle s’est concentrée sur la façon dont les algorithmes d’IA opaques pourraient être nocifs lorsqu’ils sont appliqués à grande échelle pour décider des demandes de libération conditionnelle, d’hypothèque et d’emploi. Les exemples puissants d’O’Neil ont encouragé la pensée centrée sur l’humain.
D’autres livres, comme celui de Ruha Benjamin Race After Technology : outils abolitionnistes pour le nouveau code Jim, suivi sur la façon dont les algorithmes devaient être modifiés pour augmenter les opportunités économiques et réduire les préjugés raciaux.
Livre 2019 de la psychologue sociale Shoshanna Zuboff L’ère du capitalisme de surveillance a montré le passage de la devise initiale de Google “Ne soyez pas méchant” à des efforts calculés “pour obscurcir ces processus et leurs implications”. La solution de Zuboff était d’appeler à un changement dans les modèles commerciaux, la surveillance démocratique et les sanctuaires de la vie privée. La chercheuse Kate Crawford a livré une autre analyse dévastatrice des bottes boueuses dans son livre de 2021 Atlas de l’IA, qui portait sur le pouvoir extractif et destructeur de l’IA sur l’emploi, l’environnement, les relations humaines et la démocratie. Elle a affiné son message dans une conférence captivante pour la National Academy of Engineering, décrivant les actions constructives que les chercheurs et les implémenteurs de l’IA pourraient prendre, tout en encourageant la réglementation gouvernementale et les efforts individuels pour protéger la vie privée.
Les militants de Muddy-boots sont de plus en plus reconnus pour leurs contributions positives à la recherche, qui offrent des conceptions intelligentes qui profitent aux gens. En octobre 2021, Cynthia Rudin a reçu le prix d’un million de dollars pour l’intelligence artificielle au profit de l’humanité de l’Association pour l’avancement de l’intelligence artificielle. Son travail sur les formes interprétables de l’IA était une réponse à la complexité déconcertante des algorithmes de boîte noire opaque, qui rendait difficile pour les gens de comprendre pourquoi ils étaient rejetés pour des libérations conditionnelles, des hypothèques ou des emplois.
Beaucoup de penseurs aux bottes boueuses sont des femmes, mais les hommes ont également parlé de la nécessité d’une surveillance humaine. Le pionnier de la technologie Jaron Lanier soulève également des inquiétudes dans son Dix arguments pour supprimer vos comptes de médias sociaux dès maintenant, qui identifie les méfaits des médias sociaux et suggère aux utilisateurs de mieux contrôler leur utilisation. Le juriste Frank Pasquale Nouvelles lois de la robotique explique pourquoi les développeurs d’IA devraient valoriser l’expertise humaine, éviter les courses aux armements technologiques et assumer la responsabilité des technologies qu’ils créent. Cependant, assurer le contrôle humain au moyen de conceptions centrées sur l’humain nécessitera des changements substantiels dans les politiques nationales, les pratiques commerciales, les programmes de recherche et les programmes d’enseignement.
Les divers travailleurs de ce camp, y compris les femmes, les personnes non binaires, les personnes handicapées et les personnes de couleur, ont des messages importants pour s’assurer que les rêves du ciel bleu peuvent être canalisés vers des produits et services réalisables qui profitent aux gens et préservent l’environnement.
