Hinton contre Murdoch : l’histoire de deux IA

À Collision 2023qui s’est tenu à Toronto fin juin, il y a eu beaucoup de discussions sur l’intelligence artificielle (IA) et plus précisément sur le chatbot ChatGPT, mais rien n’illustrait mieux la situation actuelle que les discours liminaires distincts prononcés par Colin Murdoch et le Dr Geoffrey Hinton.

Murdoch, directeur commercial de Google DeepMindune organisation lancée par Google en avril lorsque DeepMind et l’équipe Brain de l’organisation ont uni leurs forces, a déclaré qu’au cours des six derniers mois, le monde a connu un “moment d’eurêka” en matière d’IA.

“Pour ceux d’entre vous qui ne le savent pas, notre mission est de faire avancer la science et de profiter à l’humanité”, a-t-il déclaré. « Et lorsque nous pensons à certains des plus grands défis mondiaux, le changement climatique est au premier plan. C’est un énorme défi mondial. Et nous devons mettre à profit toute la force de la créativité et de l’expertise de l’humanité pour aider à le résoudre, et je pense que l’IA peut jouer un rôle très important.

Murdoch a ajouté que les chercheurs de Google DeepMind utilisent l’IA pour “aider à prévoir le temps avec plus de précision et de manière plus rapide, afin d’aider les entreprises et les communautés du monde entier à mieux réagir aux conditions météorologiques les plus extrêmes et à l’impact dévastateur que cela peut avoir”.

Selon une entreprise Blog intitulé Utiliser l’IA pour lutter contre le changement climatique, “l’infrastructure informatique d’aujourd’hui, y compris l’IA elle-même, est énergivore. Pour aider à résoudre certains de ces problèmes, nous avons développé une IA qui peut améliorer les systèmes existants, notamment en optimisant le refroidissement industriel et des systèmes informatiques plus performants.

« Étant donné que nos réseaux énergétiques ne fonctionnent pas encore avec de l’énergie propre, il est important que nous utilisions nos ressources aussi efficacement que possible pendant que nous travaillons sur la transition vers les énergies renouvelables. L’accélération de la transition mondiale vers des sources d’énergie renouvelables peut également réduire considérablement les émissions de carbone.

Dans son discours, Murdoch a déclaré : « Je sais qu’il y a de plus grandes percées à l’horizon et que leur impact sera énorme. Mais il est vraiment important que nous le fassions d’une manière sûre, éthique et inclusive et que nous construisions un avenir positif pour tous.

Hinton, quant à lui, qui s’est entretenu avec Nick Thompson, le PDG de l’Atlantique, devant un public nombreux lors d’une séance de questions-réponses sur la scène centrale du Enercare Centre, était beaucoup moins positif.

“Pour souligner, nous entrons dans une période d’énorme incertitude, personne ne sait vraiment ce qui va se passer”, a-t-il déclaré. “Et les gens dont je respecte l’opinion ont des croyances très différentes des miennes.

« Yann LeCun pense que tout va bien se passer. Ils (les chatbots IA) vont juste nous aider, tout va être merveilleux. Mais je pense que nous devons prendre au sérieux la possibilité que, s’ils deviennent plus intelligents que nous, ce qui semble tout à fait probable, et qu’ils aient leurs propres objectifs, ce qui semble tout à fait probable, ils pourraient bien développer l’objectif de prendre le contrôle. Et s’ils font ça, nous aurons des ennuis.

Hinton, qui, avec Yoshua Bengio et LeCun de Montréal, sont connus comme les «parrains de l’IA» après avoir remporté le très convoité Prix ​​Turing en 2018et qui résigné son poste chez Google sur les préoccupations concernant l’IA, a été interrogé par Thompson : “Si un chatbot d’IA a été construit par de bons humains à de bonnes fins, il a été formé sur de bons livres et de bons textes, alors il aura un biais vers de bons à l’avenir. Croyez-vous cela ou non ?

Hinton a répondu que “l’IA formée par de bonnes personnes aura un penchant pour le bien, l’IA formée par de mauvaises personnes comme Poutine ou quelqu’un comme ça aura un penchant pour le mauvais. Nous savons qu’ils vont fabriquer des robots de combat. Ils sont occupés à le faire dans de nombreux ministères de la Défense. Ils ne seront pas nécessairement bons, puisque leur objectif principal sera de tuer des gens.

“Même si l’IA n’est pas super intelligente, si les départements de la défense l’utilisent pour fabriquer des robots de combat, ce sera très désagréable et effrayant. Et ça va l’être, même s’il n’est pas super intelligent, et même s’il n’a pas ses propres intentions, il fait juste ce que Poutine lui dit. Il sera beaucoup plus facile, par exemple, pour les pays riches d’envahir les pays pauvres.

« À l’heure actuelle, il y a un obstacle à l’invasion des pays pauvres bon gré mal gré, parce que des citoyens morts rentrent chez eux. Au lieu de cela, s’ils ne sont que des robots de combat morts, c’est formidable, le complexe militaro-industriel aimerait ça.

Hinton a ajouté à la fin de la session qu’il n’avait pas de plan pour rendre l’IA plus bonne que mauvaise, mais a déclaré : “Je pense que c’est formidable qu’elle soit en cours de développement, car nous n’avons pas pu mentionner les chiffres énormes de ses bons usages comme la médecine et le changement climatique, etc. Je pense que les progrès de l’IA sont inévitables et probablement bons, mais nous devons sérieusement nous soucier d’en atténuer tous les effets secondaires néfastes et nous inquiéter des menaces existentielles.