Beaucoup de gens craignent que si l’intelligence machine pleinement sensible existe, elle prendra le contrôle du monde. La véritable menace, cependant, est le risque que les entreprises technologiques asservent des robots pour générer des bénéfices, suggère l’auteur Martha Wells dans sa série de livres éloignées The Murderbot Diaries. Dans le monde de Wells, les intelligences de machines habitent les vaisseaux spatiaux et les robots et les constructions à moitié humaines de demi-machine offrent une protection contre les humains contre le danger (sous la forme de «unités de sécurité»), ainsi que du plaisir sexuel («unités de confort»). Le personnage principal, une unité de sécurité qui se nomme secrètement Murderbot, parvient à gagner en libre arbitre en piratant le module que son entreprise de propriétaire utilise pour l’asservisser. Mais la plupart des êtres comme ça n’ont pas autant de chance.
Dans le monde de Murderbot, les entreprises contrôlent presque tout, concurrentes entre elles pour exploiter les planètes et les travaux contractuels. Les droits des humains et des robots sont souvent piétinés par la cupidité capitaliste – écho à de nombreux péchés réels qui attribuent aux entreprises technologiques d’aujourd’hui. Mais juste à l’extérieur du territoire de l’entreprise (appelé «Rim de la société») est une planète indépendante nommée Preservation, une société relativement libre et pacifique que Murderbot se trouve, contre toute attente, voulant protéger.
Maintenant, avec l’adaptation télévisée Murderbot diffusée sur Apple TV +, Wells atteint un tout nouveau public. Le spectacle a été acclamé par la critique (et, au moment de la rédaction, une note d’audience de 96% sur Rotten Tomatoes), et il est régulièrement classé parmi la série la plus regardée du streamer. Il a été récemment renouvelé pour une deuxième saison. «Je suis toujours un peu submergé par tout ce qui se passe avec le spectacle», explique Wells. «C’est difficile à croire.»
Sur le soutien du journalisme scientifique
Si vous appréciez cet article, envisagez de soutenir notre journalisme primé en vous abonnant. En achetant un abonnement, vous contribuez à assurer l’avenir des histoires percutantes sur les découvertes et les idées qui façonnent notre monde aujourd’hui.
Scientific American a parlé à Wells de la différence entre l’IA d’aujourd’hui et l’intelligence réelle de la machine, la personnalité artificielle et les robots neurodivergents.
[An edited transcript of the interview follows.]
La société Rim se sent si incroyablement prémonitoire, peut-être encore plus maintenant que lorsque vous avez publié le premier livre de la série en 2017.
Oui, avec inquiétude. Cette tendance de l’entreprise a en quelque sorte percolé au cours des 10 ou 15 dernières années – c’était la direction dans laquelle nous allions en tant que société. Une fois que nous avons l’idée que les sociétés aient la personnalité, qu’une entreprise est en quelque sorte plus une personne qu’un vrai individu humain, alors cela commence vraiment à vous montrer à quel point cela peut devenir mauvais. J’ai l’impression que cela a été possible à tout moment; Ce n’est pas seulement une chose lointaine. Mais le représenter dans un avenir lointain le rend moins horrible, je suppose. Cela vous permet de penser à ces choses sans vous sentir comme si vous regardiez les nouvelles.
Actuellement, l’idée d’aller à Mars est poussée par des entreprises privées en réponse à tous les problèmes. Mais [the implication is that those who go will be] Certains milliardaires et leur coterie et leurs serviteurs sous contrat, et ce sera en quelque sorte le paradis pour eux et juste l’inverse pour tout le monde. Avec les sociétés qui prennent le relais, c’est à ce moment que le profit est le résultat net – l’agrandissement et l’agrandissement personnel de celui qui le dirige. Vous ne pouvez pas avoir le genre de progrès scientifiques graves et minutieux que nous avons eu avec la NASA.
Ce monde que vous avez créé est si intéressant parce que c’est une dystopie à certains égards. Le RIM de la société l’est certainement. Et pourtant, la préservation est une sorte d’utopie. Pensez-vous à eux en ces termes?
Pas vraiment, parce que par cette norme, nous vivons dans une dystopie maintenant, et je pense que le terme dystopie fait presque la lumière de la réalité. C’est comme si vous appelez quelque chose une dystopie, vous n’avez pas à vous soucier de le réparer ou de faire quoi que ce soit pour essayer de soulager les problèmes. C’est sans espoir. Et si vous avez quelque chose que vous appelez une utopie, alors c’est parfait, et vous n’avez pas à penser aux problèmes qu’il pourrait avoir ou comment vous pourriez améliorer les gens.
Je ne pense donc pas vraiment en ces termes parce qu’ils se sentent très limités. Et clairement dans le bord de la société, il y a encore des gens qui parviennent à vivre là-bas, surtout, comme nous le faisons ici, maintenant. Et en préservation, il y a encore des gens qui ont des préjugés, et ils ont encore des choses sur lesquelles travailler. Mais ils travaillent en fait sur eux, ce qui le distingue du bord de la société.
L’un des thèmes centraux des histoires du meurtre est cette idée de personnalité. Vos livres indiquent très clairement que Murderbot, en tant que partie humaine, partielle partielle, est définitivement une personne. Avec notre technologie aujourd’hui, pensez-vous que l’intelligence artificielle, les modèles de grands langues ou le chatpt devraient être considérés comme des personnes?
Eh bien, Murderbot est une intelligence de la machine, et Chatgpt ne l’est pas. Cela s’appelle l’intelligence artificielle en tant qu’outil de marketing, mais ce n’est pas vraiment l’intelligence artificielle. Un grand modèle de langue n’est pas une intelligence machine. Nous n’avons pas vraiment cela pour le moment.
Nous avons des algorithmes qui peuvent être très puissants et peuvent analyser de grandes quantités de données. Mais ils n’ont pas une intelligence individuelle sensible en ce moment. Je pense toujours que nous sommes probablement des années, des années et des années à quiconque créant une intelligence artificielle réelle.
Donc, Murderbot est la fiction, car l’intelligence machine en ce moment est la fiction.
Un grand modèle de langue qui correspond aux mots, parfois en quelque sorte vaguement comme si cela pourrait vous parler et semble parfois que ce soit simplement des motifs de manière qui semble vraiment bizarre – qui n’est pas proche de l’intelligence de la machine sensible.
Je me sens vraiment en conflit parce que je ressens souvent l’intrusion de ces modèles de langue et de ces produits qui sont appelés intelligence artificielle dans la vie moderne aujourd’hui. Et pourtant, je ressens une telle affection et un tel amour pour les intelligences artificielles fictives.
Oui! Je me demande si c’est une chose qui a permis à l’ensemble de l’arnaque de l’IA de prendre un tel point de vue. Parce que tant de gens n’aiment pas l’avoir dans leurs affaires, sachant que cela prend essentiellement toutes vos données, tout ce sur quoi vous travaillez, tout ce que vous écrivez et le mettez dans ce désabonnement d’un algorithme de correspondance de motifs. Les intelligences artificielles et machines fictives et fictives au fil des ans ont probablement des gens convaincus que cela est possible et que cela se produit maintenant. Les gens pensent que parler de ces grands modèles de langue les aide en quelque sorte à acquérir une sensibilité ou à en savoir plus, alors que ce n’est vraiment pas le cas. C’est une perte de temps.
Les humains sont vraiment sujets aux objets anthropomorphisés, en particulier des choses comme notre ordinateur portable et notre téléphone et toutes ces choses qui répondent à ce que nous faisons. Je pense que c’est juste un peu cuit en nous, et il est profité des sociétés pour essayer de gagner de l’argent, de retirer des emplois aux gens et pour leurs propres raisons.
Mon personnage préféré dans l’histoire est Art, qui est un vaisseau spatial – c’est-à-dire une intelligence artificielle contrôlant un vaisseau spatial. Comment avez-vous pensé à différencier ce personnage de la demi-machine et à moitié humaine Murderbot?
Les consciences basées sur les navires existent depuis longtemps dans la fiction, donc je ne peux pas m’en attribuer le crédit. Mais parce que Murderbot repose sur le tissu neural humain, c’est pourquoi il est soumis à l’anxiété et à la dépression et à d’autres choses que les humains ont. Et l’art ne l’est pas. L’art a été très intentionnellement créé pour travailler avec les humains et faire partie d’une équipe, il n’a donc jamais eu à faire face à beaucoup de choses négatives que Murderbot a. Quelqu’un sur Internet a décrit l’art comme, en gros, si Skynet était un universitaire avec une famille. C’est l’une des meilleures descriptions que j’ai jamais vues.
L’une des raisons pour lesquelles moi et tant de gens aimons cette série est de savoir à quel point il explore la neurodiversité. Vous avez cette diversité de types d’intelligences, et ils parallèles à beaucoup de différents types de neurodiversité que nous voyons chez les humains dans le monde réel. Y pensiez-vous de cette façon lorsque vous avez conçu cet univers?
Eh bien, cela m’a appris sur ma propre neurodiversité. Je savais que j’avais des problèmes d’anxiété et de choses comme ça, mais je ne savais pas que j’avais probablement l’autisme. Je ne savais pas beaucoup d’autres choses avant d’écrire cette histoire particulière, puis de faire en sorte que les gens m’en parlent. Ils sont comme: « Comment avez-vous réussi à représenter la neurodiversité comme celle-ci? » Et je pense: « C’est comme ça que mon cerveau fonctionne. C’est ainsi que je pense que les gens pensent. » Jusqu’à Murderbot, je ne pense pas avoir réalisé dans quelle mesure cela affecte mon écriture. J’ai eu beaucoup de gens qui m’ont dit que cela les a aidés à déterminer les choses sur eux-mêmes et que c’était juste agréable de voir un personnage qui pensait et ressentait beaucoup les mêmes choses qu’ils ont fait.
Pensez-vous que la science-fiction est un genre particulièrement utile pour explorer certains de ces aspects de l’humanité?
Cela peut être. Je ne sais pas si ça l’a toujours été. La science-fiction est écrite par des gens, et les bons et les mauvais aspects de leur personnalité y entrent. Un genre change à mesure que les personnes qui y travaillent changent. Je pense donc que cela a été mieux ces derniers temps parce que nous avons enfin eu plus de femmes et de personnes de couleur et de personnes neurodivergentes et les voix des personnes handicapées entendues maintenant. Et c’est fait pour beaucoup de travail vraiment excitant. Dernièrement, beaucoup de gens l’appellent un autre âge d’or de la science-fiction.
Quand j’ai écrit [the first book in the series]Tous les systèmes rouges, j’y mette beaucoup de moi. Et je pense que l’une des raisons pour lesquelles les gens s’identifient à de nombreux aspects différents est que j’y ai mis beaucoup d’émotions authentiques et que j’étais très précis sur la façon dont Murderbot ressentait certaines choses et ce qui se passait avec. Je pense qu’il y a eu une erreur dans la fiction, en particulier la fiction de genre, que si vous créez un personnage très générique, cela permet à plus de gens de s’identifier à cela. Mais ce n’est pas vrai. Plus quelqu’un est spécifique sur ses sentiments et ses problèmes et ce qui se passe avec eux, plus les gens peuvent s’identifier à cela à cause de cette spécificité.