La possibilité d’une IA générale

L’un des défis à relever pour suivre l’actualité des développements dans le domaine de l’intelligence artificielle est que le terme “IA” est souvent utilisé indifféremment pour désigner deux choses sans rapport.

La première utilisation du terme IA est ce qu’on appelle plus précisément l’IA étroite. C’est une technologie puissante, mais elle est aussi assez simple et directe : vous prenez un tas de données sur le passé, utilisez un ordinateur pour les analyser et trouver des modèles, puis utilisez cette analyse pour faire des prédictions sur l’avenir. Ce type d’IA touche toutes nos vies plusieurs fois par jour, car il filtre le spam de nos e-mails et nous achemine à travers le trafic. Mais parce qu’il est formé avec des données sur le passé, il ne fonctionne que là où le futur ressemble au passé. C’est pourquoi il peut identifier les chats et jouer aux échecs, car ils ne changent pas au niveau élémentaire d’un jour à l’autre.

L’autre utilisation du terme IA est de décrire quelque chose que nous appelons IA générale, ou souvent AGI. Il n’existe pas encore sauf dans la science-fiction, et personne ne sait comment le fabriquer. Une IA générale est un programme informatique qui est intellectuellement aussi polyvalent qu’un humain. Il peut apprendre par lui-même des choses entièrement nouvelles sur lesquelles il n’a jamais été formé auparavant.

La différence entre l’IA étroite et générale

Dans les films, AGI est Data de “Star Trek”, C-3PO de “Star Wars” et les réplicants de “Blade Runner”. Bien qu’il puisse sembler intuitivement que l’IA étroite est la même gentil de chose comme IA générale, juste une implémentation moins mature et sophistiquée, ce n’est pas le cas. L’IA générale est quelque chose de différent. Identifier un spam, par exemple, n’est pas informatiquement la même chose qu’être vraiment créatif, ce que serait une intelligence générale.

J’avais l’habitude d’héberger un podcast sur l’IA intitulé “Voices in AI”. C’était très amusant à faire car la plupart des grands praticiens de la science sont accessibles et étaient prêts à être sur le podcast. Ainsi, je me suis retrouvé avec une galerie de plus d’une centaine de grands penseurs de l’IA parlant en profondeur du sujet. Il y avait deux questions que je poserais à la plupart des invités. La première était : « L’IA générale est-elle possible ? Pratiquement tout le monde – à seulement quatre exceptions – a dit oui, c’est possible. Ensuite, je leur demanderais quand nous le construirons. Ces réponses étaient partout sur la carte, certaines dès cinq ans et d’autres jusqu’à 500 ans.

Pourquoi serait-ce?

Pourquoi la quasi-totalité de mes invités diraient-ils que l’IA générale est possible, tout en offrant un si large éventail d’estimations éclairées quant au moment où nous le ferons ? La réponse revient à une déclaration que j’ai faite plus tôt : nous ne savons pas comment construire une intelligence générale, donc votre supposition est aussi bonne que celle de n’importe qui d’autre.

“Mais attendez!” vous pourriez dire. “Si nous ne savons pas comment le faire, pourquoi les experts conviennent-ils si massivement que c’est possible?” Je leur posais également cette question, et j’obtenais généralement une variante de la même réponse. Leur confiance dans le fait que nous construirons une machine vraiment intelligente est basée sur une croyance fondamentale : que les gens sont des machines intelligentes. Parce que nous sommes des machines, le raisonnement va, et avons une intelligence générale, construisant des machines avec une intelligence générale doit être possible.

Humain contre machine

Certes, si les gens sont des machines, alors ces experts ont raison : l’intelligence générale n’est pas simplement possible, mais inévitable. Cependant, s’il s’avère que les gens ne sont pas simplement des machines, alors il y a quelque chose chez les gens qui ne peut pas être reproduit dans le silicium.

La chose intéressante à ce sujet est la déconnexion entre ces centaines d’experts en IA et tous les autres. Lorsque je donne des conférences sur ce sujet à un public général et que je leur demande qui croit qu’ils sont des machines, environ 15 % lèvent la main, et non les 96 % des experts en IA.

Sur mon podcast, lorsque je repoussait cette hypothèse sur la nature de l’intelligence humaine, mes invités m’accusaient généralement – très poliment, bien sûr – de me livrer à une sorte de pensée magique qui est au cœur de l’antiscience. « Que pourrions-nous être d’autre que des machines biologiques ? »

C’est une question juste et importante. Nous ne connaissons qu’une seule chose dans l’univers avec une intelligence générale, et c’est nous. Comment se fait-il que nous ayons une superpuissance créative aussi puissante ? Nous ne savons pas vraiment.

L’intelligence comme superpuissance

Essayez de vous souvenir de la couleur de votre premier vélo ou du nom de votre professeur de première année. Peut-être que vous n’avez pas pensé à l’un ou l’autre de ceux-ci depuis des années, mais votre cerveau a probablement été capable de les récupérer avec peu d’effort, ce qui est d’autant plus impressionnant si l’on considère que les “données” ne sont pas stockées dans votre cerveau car elles sont sur un disque dur. En fait, nous ne savons pas comment il est stocké. Nous découvrirons peut-être que chacun des cent milliards de neurones de votre cerveau est aussi compliqué que notre supercalculateur le plus avancé.

Mais c’est là que commence le mystère de notre intelligence. Cela devient plus délicat à partir de là. Il s’avère que nous avons quelque chose appelé un esprit, qui est différent du cerveau. L’esprit est tout ce que les trois livres de glu dans votre tête peuvent faire et qu’il ne devrait pas être capable de faire, comme avoir le sens de l’humour ou tomber amoureux. Votre cœur ne les fait pas, ni votre foie. Mais d’une manière ou d’une autre, vous le faites.

Nous ne savons même pas avec certitude que l’esprit est uniquement un produit du cerveau. Plus de quelques personnes naissent sans avoir jusqu’à 95% de leur cerveau, mais ont toujours une intelligence normale et ne sont souvent même pas au courant de leur état jusqu’à plus tard dans la vie lors d’un examen diagnostique. De plus, nous semblons avoir beaucoup d’intelligence qui n’est pas stockée dans notre cerveau mais qui est distribuée dans tout notre corps.

IA générale : la complexité supplémentaire de la conscience

Même si nous ne comprenons pas le cerveau ou l’esprit, cela devient en fait plus difficile à partir de là : l’intelligence générale pourrait bien nécessiter la conscience. La conscience est le vivre vous avez du monde. Un thermomètre peut vous indiquer avec précision la température, mais il ne peut pas sentir la chaleur. Cette différence, entre savoir quelque chose et expérimenter quelque chose, est la conscience, et nous avons peu de raisons de croire que les ordinateurs peuvent expérimenter le monde plus qu’une chaise.

Nous voici donc avec des cerveaux que nous ne comprenons pas, des esprits que nous ne pouvons pas expliquer et, quant à la conscience, nous n’avons même pas de bonne théorie sur la façon dont il est même possible pour la simple matière d’avoir une expérience. Pourtant, malgré tout cela, les gens de l’IA qui croient en l’IA générale sont convaincus que nous pouvons reproduire toutes les capacités humaines dans les ordinateurs. À mon oreille, c’est l’argument qui semble faire appel à la pensée magique.

Je ne dis pas cela pour être dédaigneux ou pour banaliser les croyances de qui que ce soit. Ils ont peut-être raison. Je considère simplement l’idée d’IA générale comme une hypothèse non prouvée, pas comme une vérité scientifique évidente. Le désir de construire une telle créature, puis de la contrôler, est un ancien rêve de l’humanité. À l’ère moderne, il est vieux de plusieurs siècles, à commencer peut-être par Mary Shelley Frankenstein, puis se manifestant dans un millier d’histoires ultérieures. Mais c’est vraiment beaucoup plus ancien que ça. Aussi loin que nous ayons écrit, nous avons de telles imaginations, comme l’histoire de Talos, un robot créé par le dieu grec de la technologie, Héphaïstos, pour garder l’île de Crète.

Quelque part au fond de nous se trouve le désir de créer cette créature et de maîtriser son incroyable pouvoir, mais rien jusqu’à présent ne doit être considéré comme une indication que nous le pouvons réellement.

Byron Reese est technologue et auteur.