L’IA n’a pas à être comme ça

Toutes les innovations technologiques ne méritent pas d’être qualifiées de progrès. En effet, certaines avancées, malgré leurs commodités, peuvent ne pas faire autant avancer la société, dans l’ensemble, qu’annoncé. L’économiste du MIT Daron Acemoglu est l’un des chercheurs qui se tient face aux pom-pom girls de la technologie. (Le “c” de son nom de famille se prononce comme un “g” doux.) Spectre IEEE s’est entretenu avec Agemoglu – dont les domaines de recherche incluent l’économie du travail, l’économie politique et l’économie du développement – de ses travaux récents et de son point de vue sur la question de savoir si des technologies telles que l’intelligence artificielle auront un effet net positif ou négatif sur la société humaine.

Spectre IEEE: Dans votre document de travail de novembre 2022 “Automation and the Workforce”, vous et vos coauteurs dites que le bilan est, au mieux, mitigé lorsque l’IA rencontre la main-d’œuvre. Qu’est-ce qui explique l’écart entre la plus grande demande de main-d’œuvre qualifiée et leurs effectifs ?

Acémoglu: Les entreprises licencient souvent des travailleurs moins qualifiés et essaient d’augmenter l’emploi de travailleurs qualifiés.

“L’IA générative pourrait être utilisée, non pas pour remplacer les humains, mais pour être utile aux humains. … Mais ce n’est pas la trajectoire dans laquelle il se dirige en ce moment.
—Daron Acemoglu, MIT

En théorie, une forte demande et une offre restreinte sont censées entraîner des prix plus élevés – dans ce cas, des offres salariales plus élevées. Il va de soi que, sur la base de ce principe accepté depuis longtemps, les entreprises penseraient “Plus d’argent, moins de problèmes”.

Acémoglu: Vous avez peut-être raison dans une certaine mesure, mais… lorsque les entreprises se plaignent de pénuries de compétences, je pense qu’elles se plaignent en partie du manque général de compétences parmi les candidats qu’elles voient.

Dans votre article de 2021 “Harms of AI”, vous affirmez que si l’IA reste non réglementée, elle causera des dommages considérables. Pourriez-vous donner des exemples?

Acémoglu: Eh bien, permettez-moi de vous donner deux exemples de Chat GPT, qui fait fureur de nos jours. ChatGPT peut être utilisé pour de nombreuses choses différentes. Mais la trajectoire actuelle du grand modèle de langage, incarnée par Chat GPT, est très axée sur le vaste programme d’automatisation. ChatGPT essaie d’impressionner les utilisateurs… Ce qu’il essaie de faire, c’est d’essayer d’être aussi bon que les humains dans une variété de tâches : répondre aux questions, être conversationnel, écrire des sonnets et écrire des essais. En fait, dans certaines choses, cela peut être meilleur que les humains car écrire un texte cohérent est une tâche difficile et les outils prédictifs du mot qui devrait suivre, sur la base du corpus de nombreuses données provenant d’Internet, le font équitablement Bien.

Le chemin que GPT3 [the large language model that spawned ChatGPT] est en baisse met l’accent sur l’automatisation. Et il y a déjà d’autres domaines où l’automatisation a eu un effet délétère : pertes d’emplois, inégalités, etc. Si vous y réfléchissez, vous verrez – ou vous pourriez argumenter de toute façon – que la même architecture aurait pu être utilisée pour des choses très différentes. L’IA générative pourrait être utilisée, non pas pour remplacer les humains, mais pour être utile aux humains. Si vous voulez écrire un article pour Spectre IEEE, vous pouvez soit demander à ChatGPT d’écrire cet article pour vous, soit l’utiliser pour organiser une liste de lecture pour vous qui pourrait capturer des choses que vous ne connaissiez pas vous-même et qui sont pertinentes pour le sujet. La question serait alors de savoir dans quelle mesure les différents articles de cette liste de lecture sont fiables. Pourtant, à ce titre, l’IA générative serait un outil complémentaire humain plutôt qu’un outil de remplacement humain. Mais ce n’est pas la trajectoire dans laquelle il se dirige actuellement.

«Open AI, en prenant une page du livre de codes« bougez vite et cassez les choses »de Facebook, vient de tout jeter. Est-ce une bonne chose?”
—Daron Acemoglu, MIT

Permettez-moi de vous donner un autre exemple plus pertinent pour le discours politique. Parce que, encore une fois, l’architecture ChatGPT est basée sur la simple prise d’informations sur Internet qu’elle peut obtenir gratuitement. Et puis, avoir une structure centralisée gérée par Open AI, il y a une énigme : si vous prenez simplement Internet et utilisez vos outils d’IA générative pour former des phrases, vous pourriez très probablement vous retrouver avec un discours de haine comprenant des épithètes raciales et de la misogynie, parce que le Internet en est rempli. Alors, comment le ChatGPT gère-t-il cela ? Eh bien, un groupe d’ingénieurs s’est assis et ils ont développé un autre ensemble d’outils, principalement basés sur l’apprentissage par renforcement, qui leur permettent de dire : “Ces mots ne seront pas prononcés”. C’est l’énigme du modèle centralisé. Soit ça va cracher des trucs haineux, soit quelqu’un doit décider ce qui est suffisamment haineux. Mais cela ne favorisera aucun type de confiance dans le discours politique. parce qu’il pourrait s’avérer que trois ou quatre ingénieurs – essentiellement un groupe de blouses blanches – décident de ce que les gens peuvent entendre sur les questions sociales et politiques. Je pense que les outils flexibles pourraient être utilisés de manière plus décentralisée, plutôt que sous les auspices de grandes entreprises centralisées telles que Microsoft, Google, Amazon et Facebook.

Au lieu de continuer à aller vite et à casser des choses, les innovateurs devraient adopter une position plus délibérée, dites-vous. Y a-t-il des non-non définitifs qui devraient guider les prochaines étapes vers des machines intelligentes ?

Acémoglu : Oui. Et encore une fois, laissez-moi vous donner une illustration en utilisant ChatGPT. Ils voulaient battre Google[to market, understanding that] certaines des technologies ont été initialement développées par Google. Et ainsi, ils sont allés de l’avant et l’ont publié. Il est maintenant utilisé par des dizaines de millions de personnes, mais nous n’avons aucune idée des implications plus larges des grands modèles linguistiques s’ils sont utilisés de cette façon, ou comment ils auront un impact sur le journalisme, les cours d’anglais au collège, ou quelles implications politiques ils auront. Google n’est pas ma société préférée, mais dans ce cas, je pense que Google serait beaucoup plus prudent. Ils retenaient en fait leur grand modèle linguistique. Mais Open AI, en prenant une page du livre de codes « bougez vite et cassez les choses » de Facebook, vient de tout jeter. Est-ce une bonne chose? Je ne sais pas. Open AI est ainsi devenue une entreprise de plusieurs milliards de dollars. Cela a toujours fait partie de Microsoft en réalité, mais maintenant il a été intégré à Microsoft Bing, tandis que Google a perdu quelque chose comme 100 milliards de dollars en valeur. Donc, vous voyez l’environnement impitoyable dans lequel nous nous trouvons et les incitations que cela crée. Je ne pense pas que nous puissions faire confiance aux entreprises pour qu’elles agissent de manière responsable ici sans réglementation.

Les entreprises technologiques ont affirmé que l’automatisation placerait les humains dans un rôle de supervision au lieu de simplement tuer tous les emplois. Les robots sont au sol et les humains sont dans une arrière-salle pour superviser les activités des machines. Mais qui peut dire que l’arrière-boutique n’est pas de l’autre côté d’un océan plutôt que de l’autre côté d’un mur – une séparation qui permettrait aux employeurs de réduire davantage les coûts de main-d’œuvre en délocalisant les emplois ?

Acémoglu : C’est exact. Je suis d’accord avec toutes ces déclarations. Je dirais, en fait, que c’est l’excuse habituelle de certaines entreprises engagées dans l’automatisation algorithmique rapide. C’est un refrain courant. Mais vous n’allez pas créer 100 millions d’emplois de personnes supervisant, fournissant des données et formant aux algorithmes. L’intérêt de fournir des données et de la formation est que l’algorithme peut désormais effectuer les tâches que les humains faisaient auparavant. C’est très différent de ce que j’appelle la complémentarité humaine, où l’algorithme devient un outil pour les humains.

“[Imagine] utiliser l’IA… pour une planification en temps réel qui pourrait prendre la forme de contrats zéro heure. En d’autres termes, je vous emploie, mais je ne m’engage pas à vous fournir du travail.
—Daron Acemoglu, MIT

Selon “The Harms of AI”, les cadres formés pour réduire les coûts de main-d’œuvre ont utilisé la technologie pour aider, par exemple, à contourner les lois du travail qui profitent aux travailleurs. Par exemple, programmer les quarts de travail des travailleurs horaires de manière à ce que presque aucun n’atteigne le seuil hebdomadaire d’heures qui les rendrait éligibles à la couverture d’assurance maladie parrainée par l’employeur et/ou à la rémunération des heures supplémentaires.

Acémoglu: Oui, je suis d’accord avec cette affirmation aussi. Des exemples encore plus importants seraient l’utilisation de l’IA pour surveiller les travailleurs et pour la planification en temps réel qui pourrait prendre la forme de contrats zéro heure. En d’autres termes, je vous emploie, mais je ne m’engage pas à vous fournir du travail. Vous êtes mon employé. J’ai le droit de t’appeler. Et quand je t’appelle, on s’attend à ce que tu te montres. Alors, disons que je suis Starbucks. Je vais appeler et dire ‘Willie, viens à 8h du matin.’ Mais je n’ai pas besoin de t’appeler, et si je ne le fais pas pendant une semaine, tu ne gagnes pas d’argent cette semaine-là.

La diffusion simultanée de l’IA et des technologies qui permettent à l’État de surveillance entraînera-t-elle une absence totale de vie privée et d’anonymat, comme cela a été décrit dans le film de science-fiction Rapport minoritaire?

Acémoglu : Eh bien, je pense que c’est déjà arrivé. En Chine, c’est exactement la situation dans laquelle se trouvent les citadins. Et aux États-Unis, ce sont en fait des entreprises privées. Google a beaucoup plus d’informations sur vous et peut vous surveiller en permanence, sauf si vous désactivez divers paramètres de votre téléphone. Il utilise également en permanence les données que vous laissez sur Internet, sur d’autres applications ou lorsque vous utilisez Gmail. Il y a donc une perte totale de vie privée et d’anonymat. Certaines personnes disent ‘Oh, ce n’est pas si mal. Ce sont des entreprises. Ce n’est pas la même chose que le gouvernement chinois. Mais je pense que le fait qu’ils utilisent des données pour des publicités personnalisées et ciblées soulève de nombreux problèmes. Il est également problématique qu’ils vendent vos données à des tiers.

Dans quatre ans, lorsque mes enfants seront sur le point d’obtenir leur diplôme universitaire, comment l’IA aura-t-elle changé leurs options de carrière ?

Acémoglu: Cela remonte à la discussion précédente avec ChatGPT. Des programmes comme GPT3 et GPT4 peuvent saborder de nombreuses carrières, mais sans créer d’énormes améliorations de productivité sur leur chemin actuel. D’un autre côté, comme je l’ai mentionné, il existe des voies alternatives qui seraient en fait bien meilleures. Les progrès de l’IA ne sont pas prédéterminés. Ce n’est pas comme si nous savions exactement ce qui va se passer dans les quatre prochaines années, mais c’est une question de trajectoire. La trajectoire actuelle est basée sur l’automatisation. Et si cela continue, beaucoup de carrières seront fermées à vos enfants. Mais si la trajectoire part dans une direction différente, et devient complémentaire humaine, qui sait ? Peut-être qu’ils ont de nouvelles occupations très significatives qui s’offrent à eux.