Le nouveau PDG par intérim d’OpenAI a suggéré plus tôt cette année que intelligence artificielle comporte un niveau de risque potentiel pour l’humanité qui « devrait vous amener à chier dans votre pantalon ».
Emmett Shear, co-fondateur et ancien PDG de Twitch, a été nommé ce week-end pour diriger OpenAI après que son conseil d’administration a évincé son PDG de longue date, Sam Altman, en un choc tiré vendredi.
Dans une interview de juin sur le podcast « The Logan Bartlett Show », Shear a déclaré qu’il craignait que la technologie de l’IA puisse évoluer jusqu’à ce qu’elle soit suffisamment intelligente pour concevoir l’intelligence artificielle par elle-même, « s’auto-améliorer complètement » et déjouer les humains.
« Ce type de renseignement est une chose intrinsèquement très dangereuse », a-t-il déclaré. « Parce que l’intelligence, c’est le pouvoir. Les êtres humains sont la forme de vie dominante sur cette planète, en grande partie parce que nous sommes désormais plus intelligents que les autres créatures.
Il a évalué la « probabilité d’une catastrophe » entre 5 et 50 %.
Son intervieweur, Bartlett, a noté que la plupart des experts en IA semblent accorder un certain pourcentage de risque à la technologie. Il a cité Paul Christiano, chercheur en IA et ancien employé d’OpenAI, qui a lancé une une variété de chiffres alarmants sur la probabilité de mauvais résultats de l’IA à long terme.
“Cela devrait vous faire chier dans votre pantalon”, a déclaré Shear.
En juin, Shear a partagé un extrait de l’interview sur X (anciennement Twitter), affirmant que l’échange « reflète plus ou moins mes convictions de haut niveau concernant l’IA et à quel point elle est dangereuse ».
Ce clip a refait surface et partagé dimanche après que Shear a été annoncé comme leader par intérim d’OpenAI.
Dans un post du dimanche sur XShear a déclaré qu’il avait accepté le rôle parce qu’il pensait qu’OpenAI était l’une des “entreprises les plus importantes qui existent actuellement” et “en fin de compte, j’ai senti que j’avais le devoir d’aider si je le pouvais”.
Il a partagé un plan en trois points à exécuter au cours des 30 prochains jours, comprenant l’embauche d’un enquêteur indépendant pour enquêter sur l’éviction d’Altman et sur “l’ensemble du processus qui a conduit jusqu’à ce point”.
Les résultats, a-t-il déclaré, permettront de déterminer si l’entreprise a besoin de nouveaux changements en matière de gouvernance.
La raison exacte du licenciement d’Altman n’a pas été révélée par l’entreprise, mais le conseil d’administration a déclaré dans son communiqué qu’il n’était « pas toujours franc dans ses communications avec le conseil d’administration ».
Dans une note interne Selon le New York Times, les membres du conseil d’administration ont déclaré que « le manque de transparence d’Altman dans ses interactions avec le conseil d’administration a miné la capacité du conseil à superviser efficacement l’entreprise de la manière pour laquelle il était mandaté ».
La nouvelle a provoqué une onde de choc dans l’industrie technologique au cours du week-end et ponctue le débat en cours sur le boom de l’IA, qui pèse plusieurs milliards de dollars, et sur l’essor de l’IA. les dangers potentiels que pose la technologie pour la race humaine.
