One des premières images d’IA que j’ai rencontrées était une tête blanche, spectrale, hostile, désincarnée. C’était dans le jeu d’ordinateur Neuromancien, programmé par Troy Miles et basé sur le roman cyberpunk de William Gibson. D’autres personnes peuvent avoir rencontré pour la première fois HAL 9000 extrait de 2001 : L’Odyssée de l’espace de Stanley Kubrik ou Samantha de Spike Jonze’s Her.
Les images de la culture pop influencent les impressions des gens sur l’IA, mais la culture a une relation encore plus profonde avec elle. S’il y a une chose à retenir de cet article, c’est l’idée que les systèmes d’IA ne sont pas des machines objectives, mais plutôt basées sur la culture humaine : nos valeurs, nos normes, nos préférences et nos comportements dans la société. Ces aspects de notre culture se reflètent dans la façon dont les systèmes sont conçus. Ainsi, au lieu d’essayer de décider si les systèmes d’IA sont objectivement bons ou mauvais pour la société, nous devons les concevoir pour refléter la culture éthiquement positive que nous voulons vraiment.
Voici un exemple : Roger Dannenberg, professeur à l’Université Carnegie Mellon de Pittsburgh, a créé un système d’IA qui joue de la musique avec les gens. Il accompagne les interprètes sur la base d’idées de hauteur, d’échelle, de tempo, etc., que l’on pourrait appeler des facettes de la théorie musicale occidentale. À l’opposé, le compositeur et érudit George E Lewis, issu d’une tradition issue de la diaspora africaine – jazz et autres traditions, nourries par la musique de Chicago Association pour l’avancement de la musique créative – a créé un système appelé Voyageur c’est-à-dire un « environnement musical non hiérarchisé et interactif qui privilégie l’improvisation ». Les résultats sont très différents. Le système de Dannenberg produit une sortie qui est efficace pour suivre un interprète conventionnel – on dirait qu’il frappe les notes attendues. Le système de Lewis, en revanche, génère des surprises dans le dialogue avec un interprète, prenant parfois un solo, parfois étalant tandis que les solos humains – ni l’humain ni la machine ne dominent.
Le son de Voyager se situe quelque part entre celui du grand jazz d’avant-garde Sun Ra et un ensemble de gamelan javanais. Les valeurs de chaque système sont basées sur les cultures dont s’inspirent les musiciens et les programmeurs : contrôle mesurable v collaboration improvisée, ce qui entraîne des différences importantes dans le rendement de chaque système.
De nos jours, les systèmes d’IA jouent un rôle dans la génération de texte et d’images, diagnostiquer une maladieet même dans systèmes d’armes autonomes. On pourrait faire de tels systèmes des adeptes des humains ou des supports créatifs pour les humains ; nous pouvons considérer la relation entre la machine et l’humain comme basée sur le commandement et le contrôle – ou comme basée sur la collaboration, en déterminant ce que les gens font de mieux et ce que l’ordinateur fait de mieux pour qu’ils puissent travailler ensemble de manière fructueuse. Les deux approches ont leur place – mais j’ai l’impression qu’actuellement la dernière approche est moins connue et moins adoptée. La création de systèmes d’IA basés sur de nombreuses cultures différentes, avec des directives éthiques appropriées, peut aider à remédier à cela.
Personnes peut concevoir intentionnellement des systèmes informatiques avec les valeurs et les visions du monde que nous voulons. Par exemple, le Centre MIT pour la virtualité avancée, que j’ai fondé et dirigé, a construit des simulations telles que Récits Breakbeat, une collaboration avec Universal Hip Hop Museum et Microsoft. Le système utilise les technologies de notre centre, des personnages créés avec des artistes de bande dessinée Kirby noir, IA conversationnelle de Microsoft et contenu d’archives musicales de la TunesMap Educational Foundation pour enseigner l’histoire du hip-hop en fonction des goûts et des intérêts musicaux de l’utilisateur. Par exemple, si vous aimez la musique roots et que vous vous intéressez aux artistes hip-hop féminines, vous pouvez obtenir un court documentaire sur l’auto-représentation des femmes dans le hip-hop qui a une bande-son de chansons hip-hop qui échantillonnent du country et de l’ouest. et pâturin.
J’ai également eu le plaisir de collaborer avec le photojournaliste de guerre et artiste VR Karim Ben Khelifa sur un projet qu’il a dirigé intitulé L’ennemiqui a permis aux téléspectateurs d’entendre de manière journalistique les points de vue des combattants des deux côtés des conflits en République démocratique du Congo, au Salvador et à Gaza – tout en personnalisant l’expérience en fonction du langage corporel des utilisateurs comme indicateur de leurs préjugés potentiels et de leur attention.
Nous construisons des systèmes d’IA et d’informatique pour l’expression créative, l’apprentissage et le bien social en personnalisant de manière significative les histoires et les expériences pour les personnes qui les utilisent. Il existe une grande opportunité pour l’IA d’avoir un impact social positif grâce à une telle conception – mais pour ce faire, le domaine devra être plus interdisciplinaire, valorisant les objectifs et les idées des arts, des sciences humaines et des sciences sociales.
Je ne fais pas la promotion d’une vision utopique de l’IA. Vous avez probablement entendu parler d’approches récentes telles que “l’apprentissage en profondeur” et les “modèles de grande langue” – de systèmes tels que De E 2 et GPT-4. Les gens les utilisent à de nombreuses fins : les joueurs créent des personnages pour Donjons & DragonsAvocats créer des motions juridiques.
De tels systèmes utilisent des réseaux de neurones et des approches impliquant un apprentissage en profondeur et de grands modèles de langage. Il est difficile pour les humains d’interpréter exactement pourquoi ils produisent les images ou le texte particuliers qu’ils produisent (les « raisons » du système sont un modèle de valeurs statistiques et de poids numériques finement réglés). Lorsque les processus sont opaques et régis par de grands ensembles de données qui sont également basés sur des valeurs culturelles, il est possible pour préjugés injustes et autres maux sociaux pour trouver leur chemin dans les systèmes.
Nous devons être conscients et concevoir de manière réfléchie les valeurs culturelles sur lesquelles l’IA est basée. Avec soin, nous pouvons construire des systèmes basés sur de multiples visions du monde – et résoudre les problèmes éthiques clés de la conception tels que la transparence et l’intelligibilité. L’IA offre des opportunités créatives extraordinaires ; mais les créateurs doivent faire un travail socioculturel qui est au moins aussi difficile que l’ingénierie technique de ces systèmes – et peut-être plus difficile. Il y a des moments où un paradigme de commande et de contrôle est approprié en informatique. Cependant, lorsque l’on regarde l’IA, il y a des moments où, à la place, nous devons voir plus d’opportunités de type jazz pour l’improvisation créative et collaborative.
