Comme des millions de personnes sur cette belle planète, je me considère comme un fan de longue date de Stephen King.
En fait, King est l’une des raisons pour lesquelles je fais ce que je fais. Enfant, j’ai toujours aimé lire, mais c’est la découverte d’œuvres de science-fiction comme « Dune » et les romans hallucinants de King qui ont démontré à quel point les livres pouvaient être puissants et transportants. Adolescente, j’ai englouti des tomes tels que « Salem’s Lot », « The Green Mile », « Firestarter » et « Carrie ».
J’ai écrit mes propres histoires de science-fiction et j’ai réfléchi en privé à faire un pèlerinage dans le Maine, où vivait King – cela aurait tout aussi bien pu être dans le Maine. Milieu du monde, à l’autre bout du pays depuis ma banlieue de Sacramento – pour voir s’il m’accepterait comme apprenti. Des années plus tard, alors que je tâtonnais pour devenir écrivain, j’ai trouvé la sagesse et l’espoir dans son traité de non-fiction. «Sur l’écriture».
C’est pourquoi cela m’a peiné de voir King dénaturer un groupe dont je me suis rapproché ces dernières années – les Luddites – et d’affirmer que c’est de la folie de résister à des technologies telles que l’IA générative.
La semaine dernière, l’Atlantique a publié un article qui a révélé que l’un des principaux grands modèles de langage (LLM) – les systèmes qui rendent possible l’IA générative – avait été formé sur des dizaines de milliers de livres piratés. Le LLaMa de Meta avait été nourri avec quelque 170 000 œuvres de fiction et de non-fiction protégées par le droit d’auteur ; the Atlantic a cité Michael Pollan, Zadie Smith, Margaret Atwood et Sarah Silverman parmi les auteurs dont les œuvres avaient été utilisées, à leur insu ou sans leur permission, pour entraîner l’IA.
« L’avenir promis par l’IA est écrit avec des mots volés », écrit The Atlantic.
De nombreux écrivains étaient en colère et exaspéré. “Les programmes d’IA générative sont des machines à plagiat et tout ce que vous produisez avec eux sera composé d’œuvres protégées par le droit d’auteur d’autres personnes”, déclare le rapport. auteur Cole Haddon » a écrit sur X, la plateforme anciennement connue sous le nom de Twitter.
La nouvelle est arrivée après des mois de plaintes et d’inquiétudes parmi les auteurs et écrivains. Silverman, pour sa part, avait déjà déposé un procès qui fait la une des journaux contre OpenAI et Meta parce que leurs systèmes d’IA étaient capables d’imiter son livre de 2010 et ont été « probablement » formés sur une copie sans son consentement ; elle a maintenant la preuve que c’était bien le cas. Pendant ce temps, 10 000 écrivains avoir signé une lettre ouverte » mis en avant par l’Authors Guild, implorant les sociétés d’IA d’obtenir la permission avant d’ingérer des livres, et de rémunérer les auteurs lorsqu’ils le font.
Il fallait s’attendre à de nouvelles réactions négatives de la part des auteurs contre les services d’IA qui comptent sur leur travail pour gagner des dizaines de millions de dollars par mois.
Mais il y avait une personnalité notable qui ne partageait pas l’indignation – bien qu’il partageait l’anxiété. Parce que ce corpus de données sur la formation de l’IA comprenait également les livres de Stephen King.
King a répondu à la nouvelle selon laquelle son travail avait été ingéré par les sociétés d’IA dans un court article qui l’Atlantique a également publié Peu après. L’essentiel semble être que les nouvelles technologies peuvent faire peur, mais que les humains apprennent à s’y adapter, voire à les adopter, et qu’il serait insensé de résister aux avancées technologiques en matière d’IA générative.
Caractéristique de King, c’est évocateur et direct, intelligent et bien écrit. Il s’intéresse principalement à la question de savoir si le résultat d’une IA générative peut être considéré comme véritablement créatif ; si ChatGPT pourrait produire un art suffisamment surprenant pour rivaliser avec celui d’un humain. « La créativité ne peut exister sans sensibilité, et il existe désormais des arguments selon lesquels certaines IA sont effectivement sensibles », écrit-il, et si cela est vrai, « alors la créativité pourrait être possible. »
Ensuite, il y a la section qui a retenu mon attention :
« J’envisage cette possibilité avec une certaine fascination terrible. Est-ce que j’interdirais l’enseignement (si tel est le mot) de mes histoires aux ordinateurs ? Pas même si je le pouvais. Je pourrais tout aussi bien être le roi Canut, interdisant à la marée de monter. Ou un Luddite essayant d’arrêter le progrès industriel en mettant en pièces un métier à vapeur.
S’opposer à l’IA générative, dit-il, c’est comme s’opposer à la marée montante : la résistance est futile et fait de vous un Luddite.
Il se trouve que j’ai passé les trois dernières années à faire des recherches et à écrire un livre sur les Luddites, et pourquoi leur lutte reste profondément d’actualité aujourd’hui. Et la plus grande idée fausse à propos des Luddites est celle que King évoque ici : qu’ils essayaient d’arrêter le progrès industriel.
Ils n’étaient pas opposés au progrès, et encore moins à la technologie ; la plupart étaient eux-mêmes des techniciens qualifiés, qui passaient leurs journées à travailler sur des machines à la maison ou dans de petits ateliers. Il est vrai que les Luddites ont mis en pièces certaines machines, mais ce n’était pas la technologie elle-même qu’ils protestaient : c’était les patrons qui utilisaient ces machines pour réduire leurs salaires et les diriger vers les usines.
Rien ne prévoyait que le progrès industriel devait prendre cette forme – nous pouvons, avec une certaine facilité, imaginer un avenir dans lequel la technologie progresserait en conséquence, mais les ouvriers du textile bénéficieraient plus également de la nouvelle machinerie industrielle, l’hébergeant dans leurs petits ateliers. , ou un partage plus équitable des gains qu’elle a produits, plutôt que de ceux qui reviennent à une poignée de patrons d’usine, qui ont maximisé les profits et appauvri leurs travailleurs.
Ce qui m’amène à l’essai de King. Le but ici n’est pas de « bien, en fait », Stephen a foutu King, ou d’essayer de l’embarrasser, mais de souligner pourquoi il est si important que nous comprenions la distinction entre le mythe des Luddites – des ignorants qui ont brisé des machines parce qu’ils ne l’ont pas fait. Je ne les comprends pas – et les vrais Luddites : des ouvriers du textile qualifiés et fiers qui ne comprenaient que trop bien comment les machines étaient déployées contre eux et qui ont riposté. Et le sentiment selon lequel l’IA générative est en quelque sorte inévitable n’est guère réservé aux romanciers à succès ; c’est peut-être l’attitude prédominante que je rencontre dans les conversations sur la technologie.
La raison pour laquelle, 200 ans plus tard, tant de travailleurs créatifs sont en colère et perturbés par l’IA n’est pas qu’ils craignent qu’elle devienne si bonne, si puissante qu’ils pourraient tout aussi bien arrêter d’écrire, de dessiner ou de jouer. C’est que, comme les Luddites, ils sont terriblement conscients de la façon dont les patrons utilisez l’IA contre eux. Pour la plupart des auteurs en activité (et artistes, scénaristes, illustrateurs, etc.), la peur suscitée par l’IA n’est pas philosophique ; c’est économique et c’est existentiel.
Dans « De l’écriture», l’une des sections les plus marquantes décrit le chemin parcouru par King pour devenir un romancier publié : travailler dans l’obscurité, enseigner des cours à l’université, publier des nouvelles dans des magazines d’horreur et, finalement, décrocher le jackpot après que sa femme ait sauvé un premier manuscrit de “Carrie” de la poubelle. Un éditeur lui donne une avance de 2 500 $ pour le livre relié, et il est récupéré contre une avance alléchante de 400 000 $ pour le livre de poche (que King a partagé à 50/50 avec son éditeur d’origine).
L’industrie a déjà changé à tel point que presque personne ne peut gagner d’argent en vendant des nouvelles, et de telles avancées qui changent la vie, rares à l’époque, sont désormais pratiquement impossibles pour les auteurs de genre non testés. L’IA générative risque d’effacer davantage les sources de revenus des créatifs qui ont du mal à se lancer dans le jeu, ce qui rend les chances qu’un futur Stephen King réussisse d’autant plus minces.
Les entreprises clientes sont se tourner vers l’IA générative pour le travail créatif en interne, les entreprises déploient ChatGPT pour la rédaction, et les studios de cinéma ont clairement indiqué qu’ils voulaient avoir le droit de l’utiliser pour créer des scripts. Certaines de ces choses ne sont pas nécessairement créatif l’écriture, mais en tant qu’écrivain de science-fiction Ted Chiang a soulignécela élimine des opportunités cruciales pour les écrivains de pratiquer leur métier.
Pendant ce temps, les auteurs auto-publiés doivent désormais faire face à une avalanche de contenus générés par l’IA sur Amazon et dans certains magazines de science-fiction. ont dû fermer complètement les soumissions – ils étaient spammés avec trop de créations d’IA.
Tout cela donne de très bonnes raisons de s’opposer à l’IA générative, ou de s’opposer à la façon dont elle est utilisée par les entreprises à l’heure actuelle – il s’agit moins de la technologie, mais des fins auxquelles elle est destinée et des moyens de subsistance qu’elle menace en tant que moyen de subsistance. résultat.
Avant de prendre leurs marteaux, ceux qui allaient devenir luddites ont fait pression pour obtenir un salaire minimum, des taxes sur les machines et des pauses dans le développement – et ont été ignorés. Lorsqu’ils se sont finalement levés pour briser les machines de leur exploitation, ils étaient tonitruants et populaires à un niveau égalé uniquement par Robin des Bois. Il a fallu toute la puissance de l’État et une occupation nationale pour abattre les Luddites – et pour calomnier leur nom dans l’histoire en les traitant de mannequins passéistes.
Les choses sont différentes maintenant, bien sûr ; la syndicalisation était alors illégale et l’Angleterre n’était pas encore une démocratie. Nous disposons de meilleures options et d’une véritable chance d’avoir notre mot à dire sur la manière dont les technologies telles que l’IA générative façonnent notre façon de vivre et de travailler.
Dans l’article de King, il énumère deux poètes dont l’IA générative n’est pas encore en mesure d’imiter le travail ; l’un est William Blake. Parmi les poèmes les plus célèbres de Blake se trouve “Et ces pieds l’ont fait dans les temps anciens,” qui contient ses lignes les plus citées :
Et Jérusalem a-t-elle été bâtie ici,
Parmi ces sombres moulins sataniques ?
Ce poème a été publié en 1808, trois ans seulement avant que la rébellion luddite ne prenne forme. Blake déplorait également l’essor de l’usine remplie de machines, car il voyait à quel point elle risquait de détruire les communautés et d’appauvrir les travailleurs.
J’ai eu la chance de pouvoir suivre le chemin tracé par l’un de mes premiers héros d’auteur, de payer les factures avec de petits travaux d’écriture pour devenir un générateur de texte humain à plein temps. Les arguments de King concernant les capacités de la technologie sont bons. Je lui demande simplement humblement de revenir aux sources de l’un de ses poètes préférés et de reconsidérer pourquoi les Luddites – d’il y a 200 ans et d’aujourd’hui – étaient si poussés à briser ces machines.
