Publié le 9 novembre 2023 18:44:00. Sam Altman, PDG d’OpenAI, l’entreprise à l’origine de ChatGPT, tire la sonnette d’alarme sur les risques liés à l’essor rapide de l’intelligence artificielle, prévoyant des conséquences potentiellement graves dans divers domaines de la société.
- Sam Altman anticipe des effets négatifs de l’IA générative, notamment en matière de désinformation et de manipulation.
- Il met en garde contre la prolifération des “deepfakes” et leur accessibilité croissante.
- Altman privilégie une approche prudente et une “co-évolution” entre l’humain et la technologie plutôt qu’une réglementation excessive.
L’intelligence artificielle (IA) générative progresse à une vitesse fulgurante, et son créateur, Sam Altman, ne cache pas son inquiétude. Lors d’une récente interview accordée au podcast a16z, le PDG d’OpenAI a exprimé des craintes quant aux conséquences potentiellement néfastes de cette technologie, allant de la désinformation à la perte de confiance sociale.
« Je m’attends à ce que de très mauvaises choses se produisent à cause de la technologie », a déclaré Altman, soulignant qu’il ne s’agit pas d’une critique de l’IA en elle-même, mais d’une reconnaissance des risques inhérents à son développement rapide. Il alerte sur un danger imminent, et non un scénario futuriste.
Parmi les préoccupations majeures de Sam Altman figurent les contrefaçons profondes, ou “deepfakes”, ces fausses vidéos ou enregistrements audio créés par l’IA qui imitent des personnes réelles avec un réalisme troublant. Il explique que des outils comme Sora, ou des logiciels open source, permettent déjà de générer des images et des séquences vidéo qui semblent authentiques.
« Nous voyons déjà comment les gens peuvent utiliser des modèles comme Sora ou des outils ouverts pour générer des images et des clips qui semblent authentiques. »
Sam Altman, PDG d’OpenAI
Autrefois réservée à des experts disposant de compétences techniques pointues, la création de “deepfakes” est désormais accessible à tous. Cette démocratisation ouvre la voie à de nouvelles formes de manipulation, notamment des campagnes de désinformation politique, des fraudes numériques sophistiquées et des atteintes à la réputation potentiellement irréversibles.
« Il y aura moments étranges et effrayants avec cette technologie », a prévenu Altman.
Cependant, il nuance ses propos en soulignant que les plus grands défis ne proviendront pas de défaillances techniques, mais de la manière dont la société s’adapte et utilise ces outils. Il compare l’interaction humaine avec l’IA à une forme de « conscience collective », où des millions d’utilisateurs interagissent quotidiennement avec le même modèle de langage ou système génératif.
« L’humanité interagit soudainement avec un esprit commun. »
Sam Altman, PDG d’OpenAI
Plusieurs analystes estiment que cette « dépendance cognitive » pourrait être aussi disruptive que l’arrivée d’Internet ou des smartphones, mais sans disposer de l’infrastructure éthique ou éducative nécessaire pour l’accompagner.
Loin d’être une simple prophétie alarmiste, les prévisions de Sam Altman doivent être interprétées comme un signal d’alerte lancé au sein de l’industrie de l’IA. Il ne plaide pas pour une réglementation excessive, mais pour une approche prudente, axée sur des tests de sécurité rigoureux et une « co-évolution » entre l’humain et la technologie, permettant aux utilisateurs d’apprendre à utiliser ces outils et de définir leurs propres limites au fur et à mesure que les risques se manifestent.
« Une surveillance gouvernementale trop rigide pourrait ralentir l’innovation. »
Sam Altman, PDG d’OpenAI, cité par Ben Horowitz et Erik Torenberg
Pour aller plus loin
