Lisez le marketing d’Openai ou écoutez un devis du PDG de l’entreprise, Sam Altman, et vous seriez pardonné de penser que Chatgpt est la technologie la plus puissante, la plus efficace et la plus impressionnante que nous ayons jamais vue.
Ne vous méprenez pas, Chatgpt et d’autres chatbots d’IA comme les Gémeaux et la perplexité sont vraiment impressionnants, mais démêlez les couches comme un oignon et vous commencez à réaliser qu’ils ne sont pas aussi capables de trier chaque problème de vie que leurs créateurs vous le croient.
Récemment, j’ai conversé avec Chatgpt de plus en plus, en l’utilisant comme caisse de résonance pour des idées, testé des invites et en essayant de l’intégrer davantage dans ma vie en dehors du travail (en tant qu’écrivain d’IA senior de Techradar, tout ce que je fais est de tester les produits de l’IA grand public).
Tu aimes peut-être
Mais comme j’utilise de plus en plus Chatgpt, j’ai commencé à réaliser que ce n’est pas tout à fait chant et danse, et en fait, c’est quelque peu inutile (j’y reviendrai plus tard). Si j’ai votre attention, continuez à lire – j’ai un excellent exemple pour présenter mon argument.
L’échec viral
En parcourant Reddit plus tôt cette semaine, je suis tombé sur un fil où un utilisateur avait posé une question simple liée à une image. Chatgpt, cependant, ne pouvait pas comprendre que le but de la question était de le rattraper.
L’image était une capture d’écran d’une célèbre illusion d’optique appelée illusion Ebbinghaus, qui, en pratique, fait croire à vos yeux deux cercles assortis ne sont en fait pas de la même taille.
(Crédit d’image: National Geographic)
Cependant, alors qu’un humain regardant l’image ci-dessus pendant une période prolongée est capable de déterminer que les deux cercles orange sont de la même taille, une manipulation simple d’image confond complètement l’IA.
L’image utilisée par l’auteur initial du thread Reddit est modifiée de sorte qu’un cercle est clairement plus petit que l’autre. Le problème est: Chatgpt Reverse Recherche d’images et utilise Internet pour trouver une réponse, et il ne pense pas pour lui-même.
Qu’est-ce que cela signifie dans la pratique? Eh bien, Chatgpt trouve des images de l’illusion Ebbinghaus en ligne et détermine automatiquement que la photo qu’il est interrogé sur correspond aux autres qu’il a trouvées. Le problème? Eh bien, ce n’est pas du tout.
(Crédit d’image: futur)
Après avoir vérifié les images dans Internet, ChatGpt détermine exactement de la même taille. “
Vous pouvez lire le fil Reddit original ci-dessous pour voir comment Chatgpt réagit aux autres, mais dans mes tests, même après lui avoir donné la possibilité de retourner sa réponse, le chatbot est absolument convaincu que mon image modifiée est la même que l’illusion Ebbinghaus.
Ouais, ils sont de la même taille de R / Openai
Le problème avec toute l’IA
Alors, j’ai perplexe le chatppt avec une image modifiée, alors quoi? Ne vous méprenez pas, moi, tout comme la personne qui a eu cette idée originale, essayait évidemment de rattraper l’IA, mais le problème est que cet exemple n’est que la pointe de l’iceberg.
Vous voyez, je me suis disputé et j’ai argumenté avec Chatgpt pour essayer de le faire raison en lui-même et de décider que le cercle orange à gauche était en fait plus grand que celui à droite. Pourtant, malgré l’essai pendant environ 15 minutes, je n’ai pas pu faire bouger le chatppt; C’était convaincu que c’était bien, malgré le fait que ce soit si mal.
Ce qui me fait penser, dans son état actuel, quel est l’intérêt de cette IA magique? Si cela ne peut pas être correct à 100% du temps, est-ce en fait un outil utile? Si j’ai besoin de vérifier les informations que je lui demande et de vérifier ses réponses, est-ce que je tire vraiment l’utilisation de cette technologie?
Le fait est que si l’IA a raison 99% du temps (ce qui ne l’est pas), alors ce n’est pas assez bon pour travailler de manière convaincante pour son objectif. Si des outils de recherche profonds doivent encore être vérifiés pour vous assurer qu’il n’y a pas d’erreurs, vous feriez mieux de compiller vous-même la recherche.
Et c’est mon problème avec l’IA. Jusqu’à ce qu’il puisse être précis à 100% 100% du temps, c’est juste un outil fantaisiste qui peut bien faire certaines choses et d’autres choses. Ne vous méprenez pas, je pense que Chatgpt et d’autres outils d’IA sont efficaces et peuvent effectuer certaines tâches. Cependant, pour devenir la technologie révolutionnaire qu’Altman et Co veulent que vous pensiez qu’ils sont, ces outils doivent effacer complètement les erreurs – et franchement, nous sommes loin de cette réalité.
