Le pape fanfaron est un faux IA – et un premier aperçu d’une nouvelle réalité

Les images générées par l’IA sont déjà devenues virales, mais aucune ne s’est propagée aussi loin qu’une photo du pape portant ce qui ne peut être décrit que comme une veste bouffante. Appelez-le le Souverain Pontife. L’évêque de Balenciaga. Le vicaire du goutte à goutte.

La photo semble avoir été publiée pour la première fois en ligne vendredi, soumise à un subreddit pour le générateur d’images AI Midjourney. Au cours du week-end, il s’est répandu sur Twitter et d’autres réseaux sociaux, d’abord en tant que mème, puis en tant que sujet de démystification. Dimanche, Chrissy Teigen était tweeter à ce sujet – un indicateur fiable qu’une blague sur Internet est devenue courante.

“Je pensais que la doudoune du pape était réelle et je n’y ai pas réfléchi à deux fois. en aucun cas je ne survis à l’avenir de la technologie », a tweeté Teigen, résumant les réponses de nombreux internautes. Dans ses réponses, quelqu’un a dit qu’il pensait l’appeler généré par l’IA était la blague, et Teigen a répondu: “Oh mec maintenant je suis vraiment confus. Est-ce que c’est réel?? je me déteste lol.

L’image est définitivement fausse. Non seulement il a été publié sur le subreddit Midjourney aux côtés de trois alternatives (Midjourney génère généralement quatre images en réponse à chaque invite), mais il contient également des signes révélateurs de la génération d’IA, y compris un certain nombre de zones où les détails sont manifestement maculés. Il y a la main pas tout à fait qui ne saisit pas tout à fait une tasse de café pas tout à fait; un crucifix sans angles droits qui représente Jésus s’il avait été sculpté dans l’argile et assis dessus ; et le bord d’un verre de lunettes qui se transforme d’une manière ou d’une autre en sa propre ombre – tous indicatifs de la génération de l’IA : produits d’un système qui connaît la surface de la réalité mais pas les règles sous-jacentes qui régissent la façon dont les objets physiques interagissent.

Et pourtant, pointer du doigt tout cela relève du pédantisme car l’image indéniablement regards réel –pour une certaine définition du réel, en tout cas. Si vous l’avez fait défiler dans votre flux vendredi, vous n’y avez probablement pas réfléchi à deux fois, peut-être en tweetant “dang the pape a dripgod” et en poursuivant votre journée.

Mais il est utile d’analyser pourquoi cette image particulière est devenue virale, car elle en dit long sur la façon dont les contrefaçons d’IA seront partagées et diffusées dans les mois à venir. (Pas plus que cela, cependant : le champ évolue trop rapidement pour que les prédictions restent plus longtemps que les restes congelés.) Pour être plus précis, l’image est devenue virale car elle représente un alignement particulier du sujet et de l’esthétique – elle fonctionne précisément comme un faux. car cela correspond aux façons dont nous consommons déjà les images aujourd’hui.

D’abord, il y a le sujet : le pape lui-même. Comme l’a noté le journaliste Ryan Broderick sur Twitter, il y a quelque chose de particulier dans l’image du pape qui donne du crédit au faux. “Ma théorie sur la raison pour laquelle cela trompe tant de monde (moi y compris au départ) est que le pape existe esthétiquement dans la même vallée étrange que la plupart des arts de l’IA”, tweeté Broderick. Pour être plus explicite : le pape est connu pour porter des vêtements élégants, et les images de lui deviennent souvent virales à cause de cela.

En tant que prévisionniste de tendance Ayesha Siddiqi indiqué, l’association entre l’évêque de Rome et la mode italienne est si forte que le Vatican a été contraint de démystifier les rumeurs selon lesquelles le pape porte des mocassins de créateurs. (“Le pape, en résumé, ne porte pas Prada, mais le Christ” était la réfutation officielle.) Et il y a tellement de photos fantaisistes du pape François flottant sur le Web que d’autres ont pu associez ce récent faux AI avec de vrais exemples, comme le pape signant une Lamborghini. C’est ce contraste entre l’autorité spirituelle du pape et la fanfaronnade matérielle qui fait si souvent de l’homme un mème. (Cela et le fait qu’il tweete vraiment bien.)

Mais tout aussi important, le fait que le pape soit un célébrité rend les images incroyables de lui intrinsèquement plus crédibles. Cela est dû au style d’image créé par les générateurs d’art AI. C’est un look spécifique étroitement associé au logiciel de Midjourney, qui a reçu une mise à jour il y a quelques semaines améliorant la qualité de sa sortie et qui a, à son tour, créé une mini vague de faux IA crédibles circulant actuellement sur le Web. (Cela aide également qu’il y ait beaucoup de photos de célébrités dans les données d’entraînement de Midjourney, ce qui les rend plus faciles à générer.)

Appelons ce style hyperréalisme. Premièrement, parce que c’est l’adjectif souvent utilisé dans les invites de texte pour générer de telles images, et deuxièmement, parce qu’il relie l’esthétique au concept d’hyperréel de Jean Baudrillard – une culture dans laquelle les simulations remplacent la réalité.

L’hyperréalisme dans le contexte des images IA est une esthétique définie par un éclairage parfait et des surfaces brillantes, par des poses dramatiques et des couleurs saturées. C’est stylisé et exagéré – le genre d’image que nous associons déjà aux célébrités, dont les ressemblances sont reproduites avec une telle abondance et délibération qu’elles semblent souvent déjà fausses. Ce qui est intéressant (et relie l’esthétique de l’hyperréalisme de l’IA à la philosophie de Baudrillard), c’est que de nombreux membres de la communauté artistique de l’IA décrivent ces images comme “photoréaliste» alors qu’ils sont clairement caricaturaux. Pour ces personnes, ce qui est réel, c’est le résultat des systèmes d’IA : c’est la simulation qui déplace la réalité.

Je pense que ce sont ces facteurs réunis qui expliquent pourquoi certaines images d’IA sont devenues virales récemment. Le pape swag n’est pas le seul. Vous avez peut-être vu de fausses photos de Elon Musk main dans la main avec AOC; le président français Emmanuel Macron traversant des nuages ​​de gaz lacrymogène ; ou l’arrestation de Donald Trump. Dans chaque cas, la célébrité du sujet nous pousse à en croire nos yeux, tout comme le contenu, souvent lié à des événements récents (manifestations en France, rumeur d’inculpation de Trump, Musk étant un fluage, etc.).

C’est à la fois effrayant et rassurant – rassurant car cela suggère qu’il existe actuellement une limite à ce que les contrefaçons d’IA sont crédibles, mais effrayant car cette technologie évolue trop rapidement pour que les assurances actuelles restent valables longtemps. En fait, je dirais qu’il n’y a qu’une seule garantie en ce qui concerne les images IA : elles ne feront que devenir crédibles. Ils ne sont certainement pas limités à leur esthétique actuelle. Et tôt ou tard, ils vont devenir hyperréels comme Baudrillard en a défini le concept : masquer entièrement la distinction entre l’imaginaire et le réel.