jen Le commencement était le l’Internet, qui a été lancé pour la première fois en janvier 1983 et conçu dès le départ comme une plate-forme pour ce qui est devenu connu sous le nom d ‘«innovation sans autorisation». Si vous aviez une bonne idée qui pourrait être mise en œuvre à l’aide du réseau – et que vous étiez assez intelligent pour écrire le logiciel pour le faire fonctionner – alors Internet le ferait pour vous, sans poser de questions.
Au début des années 1990, le physicien Tim Berners-Lee l’a utilisé comme base sur laquelle construire une nouvelle plate-forme pour l’innovation sans autorisation appelée le “world wide web”. Le monde non technique a découvert cette nouvelle plate-forme en 1993 et a passé les 30 années suivantes à l’utiliser comme base sur laquelle construire de nombreuses nouvelles choses – achats en ligne, médias sociaux, Amazon, Google, blogs, etc. Le Web a également permis Wikipédia, un improbable projet de créer une encyclopédie à laquelle n’importe qui, mais n’importe qui, pourrait contribuer et éditer, et qui est aujourd’hui l’une des merveilles du monde en réseau.
En 2023, ce même monde s’est réveillé pour découvrir que le Web (en particulier les quantités inimaginables de données qu’il avait produites) avait permis la création d’un autre nouveau type de plate-forme pour l’innovation sans autorisation. Son nom chic est “IA générative”, un terme portemanteau qui englobe les grands modèles de langage (LLM) et leurs chatbots associés, ainsi que d’autres systèmes qui peuvent générer des images, des vidéos et d’autres sorties créatives plausibles en réponse à des invites textuelles.
Le monde non technique en est maintenant aux premiers stades de l’excitation hystérique, de l’angoisse et de l’exubérance irrationnelle à propos de cette nouvelle plate-forme. Il y a beaucoup de philosopher savoir si la technologie pose un risque existentiel pour l’humanité. Ce n’est probablement pas le cas; mais cela pourrait être une menace sérieuse pour la démocratie, pour des raisons que nous verrons tout à l’heure. L’industrie de la technologie, comme toujours indifférente à la démocratie, est maintenant déchirée par différentes préoccupations, en particulier le Fomo aigu. Cela a déclenché un «Explosion cambrienne” dans lequel des milliers de startups (incitées par leurs bailleurs de fonds de capital-risque) se précipitent pour construire de nouvelles choses sur la base fournie par les modèles d’IA génératifs créés par les grandes entreprises technologiques à un coût important pour l’environnement.
Étant donné que les risques existentiels sont au-dessus du niveau de rémunération des chroniqueurs de journaux, concentrons-nous plutôt sur les problèmes plus immédiats posés par les LLM. Le principal parmi ceux-ci est le fait qu’ils inventer des choses. Pire encore, ils font toujours autorité, même lorsqu’ils se trompent complètement. Pour les mauvais acteurs intéressés à tromper les gens en ligne, c’est un vrai bonus. Bien que de nombreuses personnes soient aujourd’hui habituées à être bombardées de propagande sur les réseaux sociaux, au moins une partie de celle-ci passe à travers les filtres qu’elles utilisent pour distinguer la vérité de la fiction. Mais ce que proposent les chatbots, ce n’est pas le bombardement mais interaction en tête-à-tête avec un bot apparemment engagé et bien informé. En d’autres termes, les réseaux sociaux sous stéroïdes. Et avec des élections dans au moins deux démocraties polarisées l’année prochaine, cela pourrait être significatif.
L’autre chose à propos des chatbots est qu’ils permettent la création sans effort de quantités massives de “contenu” à une échelle extraordinaire. Comme James Vincent du Bord le met, “Étant donné l’argent et le calcul, les systèmes d’IA – en particulier les modèles génératifs actuellement en vogue – évoluent sans effort. Ils produisent du texte et des images en abondance, et bientôt de la musique et de la vidéo aussi. Leur production peut potentiellement dépasser ou surpasser les plateformes sur lesquelles nous comptons pour les nouvelles, l’information et le divertissement. Mais la qualité de ces systèmes est souvent médiocre et ils sont construits d’une manière parasite sur le Web aujourd’hui. Ces modèles sont formés sur des strates de données établies au cours de la dernière ère du Web, qu’ils recréent imparfaitement.
Bientôt, cependant, le Web pourrait se composer non seulement de ce qui existait à l’ère pré-IA, mais de tout ce qui a été créé par les chatbots actuels et futurs. Ce qui soulève la possibilité intrigante d’un monde en ligne peuplé de bots inhalant l’échappement textuel de leurs pairs mécaniques, et une spirale conséquente dans la récursivité infinie que les programmeurs appellent “débordement de pile”!
Dans de telles circonstances, que devraient faire les institutions de recherche de la vérité ? Réponse : regardez ce qu’ils font sur Wikipédia. L’une des choses les plus étonnantes à propos de ce projet est la clairvoyance de sa communauté quant à la tâche de trier le blé cognitif de l’ivraie. À ses débuts, les observateurs se demandaient pourquoi Wikipédia construisait un ensemble aussi élaboré de processus et outils pour évaluer la qualité des soumissions. Maintenant, nous savons : ils ont vu ce qui se passait sur la piste. Nous pourrions apprendre une chose ou deux d’eux maintenant.
Ce que j’ai lu
L’IA sauve le monde
L’hymne au « progrès » de Marc Andreessen est sur sa sous-pile – pensez-y comme le point de vue du Dr Pangloss sur l’IA.
Optimisme face au cancer du sein
Il y a un article gratifiant dans Nature à propos du « Grand bond en avant du taux de survie au cancer du sein ».
Apporté à réserver
L’ignominie décontractée des tours du livre d’autrefois est un merveilleux mémoire de John Banville dans Écuyer magazine.
