Photo: Jaap Ariens
La plupart des recherches en ligne sont effectuées à l’aide de Google. Traditionnellement, ils ont retourné de longues listes de connexions de sites Web qui transportent des informations pertinentes.
Selon le sujet, il peut y avoir des milliers de voix à partir de laquelle choisir ou faire défiler.
L’année dernière, Google a commencé à incorporer son Gemini Ai Tech dans ses recherches.
Les panoramas de Google insèrent désormais le résumé de Google sur ce qui est gratté d’Internet en vue de la liste habituelle des connexions avec les sources dans de nombreuses recherches.
Certaines sources disent Google fonctionne maintenant Remplacez les listes de connexions par leur propre résumé de recherche sur l’IA.
Kathryn Ryan de RNZ n’est pas un fan.
« Abbaccanta Media, je dois dire, pour la plupart », a-t-il déclaré de neuf à midi lundi lors d’un chat sur l’intelligence artificielle qui renverse l’activité du marketing numérique.
Mais Kathryn Ryan n’est pas le seul déçu par les panoramas de Google. Récemment, les rédacteurs de technologies en ligne ont découvert que vous pouvez l’inciter en pensant que les dictons invent sont en fait des idiomes à usage courant qui sont significatifs.
LE Sydney Morning HeraldLe compilateur du puzzle David Astle – sous le titre « Idiome ou idiot? » L’intelligence artificielle de Google n’a pas l’intention de prendre son travail en faisant des croisés cryptiques à tout moment.
Que devons-nous attendre des offres d’intelligence artificielle?
« Il y a une petite psychologie humaine qui dit que nous nous attendons à une barre très élevée des machines d’une manière que nous ne faisons pas des humains », a déclaré le chef de la technologie de la BBC à MediaWatch qui fournit à Laura Ellis.
« Mais si vous avez une voiture qui fait une erreur, où cette responsabilité tombe? Nous n’avons pas encore testé cela. »
Le directeur adjoint politique du Sky News du Royaume-Uni, Sam Coates, a tenté de rendre le Chatgpt responsable après avoir constitué un épisode entier de son podcast politique lorsqu’il l’a utilisé pour aider à archiver leurs transcriptions récemment.
https://www.youtube.com/watch?v=7fej5xgfbyq
« L’IA avait dit à un mensonge qu’il avait obtenu la transcription. Et plutôt que encore, il a inventé un faux épisode entier sans signaler qu’il était faux. »
S’il est interrompu à ce sujet, la technologie a insisté sur le fait que Coates avait créé l’épisode seul.
Lorsque ChatGpt ne peut pas trouver de réponse ou les bonnes données sur lesquelles s’appuyer, elle peut « halluciner » ou simplement créer une réponse trompeuse.
« Chat GTP m’illumine. Il n’y a pas de chose. Tout est oublié complet », a pulvérisé Coates.
Après avoir désactivé et ravivé Chatgpt en « Mode Conversation », il en possédait final.
« Il a dit: » Écoutez, vous avez absolument raison de le défier. Je ne me souviens pas de l’heure exacte que vous avez chargée. » Et puis: « Ce que je peux confirmer, c’est que je l’ai fait et vous me prenez en compte », a déclaré Coates aux spectateurs.
Il a continué à défier Chatgpt sur le fait que ses hallucinations aggravent.
« La technologie s’améliore toujours et les dernières versions ont tendance à faire un meilleur travail pour rester précis », a répondu Chatgpt.
Mais Coates – armé de données suggérait le contraire – a demandé Chatgpt pour des statistiques spécifiques.
La réponse: « Selon les récents tests internes d’OpenI, les modèles les plus récents ont montré des taux d’hallucination plus élevés. Par exemple, le modèle connu sous le nom d’O3 avait un taux d’hallucination d’environ 33%, tandis que le modèle Mini 04 avait environ 48%. »
« Arrivée d’où vous venez et je suis désolé pour les messages contradictoires. Les performances de ces modèles peuvent varier. »
Avertissement pour se méfier?
Lorsque Coates a transmis son expérience en avertissement pour les journalistes, certains ont réagi avec alarme.
« Le taux d’hallucination des modèles avancés … est en augmentation. Comme les voyages, nous devrions vraiment l’éviter », a-t-il dit Temps du dimanche L’écrivain et ancien éditeur diplomatique de la BBC Mark Urban.
Mais certains experts technologiques ont accusé des Coates de malentendu et de maltraitance de la technologie.
« Les problèmes que Sam rencontre ici sera familier aux utilisateurs experts, mais illustre à quel point le comportement étrange et extraterrestre du modèle de grande langue (LLM) peut sembler pour le public plus large », a déclaré Henry Shevlin, éthique de l’EI de l’Université de Cambridge.
« Nous devons communiquer que ce sont des simulateurs génératifs plutôt que des programmes conventionnels », a-t-il ajouté.
D’autres étaient moins arrangeants sur les réseaux sociaux.
« Tout ce que je vois ici est quelqu’un qui travaille dans les médias qui croient comprendre comment fonctionne la technologie, mais [he] Il ne fait pas – et met en évidence les dangers d’une personne insuffisamment formée à la technologie en essayant de l’utiliser « .
« C’est comme Joey Da Amis En utilisant la fonction du thésaurus sur le mot. «
Mark HoneyChurch est un programmeur et un fidèle du service long des Sceptiques NZ, un organe non transformable qui promeut la pensée critique et l’appel pseudoscience.
Le site Web sceptique a déclaré qu’ils s’attaquaient aux pratiques qui exploitent un manque de connaissances spécialisées parmi les gens. C’est ce que beaucoup de gens utilisent Google – des réponses à des choses qu’ils ne connaissent pas ou à des choses qu’ils ne comprennent pas.
Mark HoneyChurch a décrit qu’il avait subi des tests panoramiques dans une récente édition de Le podcast des sceptiques Oui, non.
« L’IA semblait se pencher en arrière pour plaire aux gens. Il essaie de donner une réponse qu’il sait que le client veut », a déclaré Honeychurch Mediawatch.
HoneyChurch a demandé à Google le sens de: « Mieux vaut sceptique de deux oies ».
« Il essaie de faire un accord de motif et de sortir avec quelque chose de plausible. Il fait tellement que quand il voit quelque chose qui ressemble à une langue qu’il n’a jamais entendue auparavant, il voit un tas d’idiomes qui ont été expliqués et suit ce modèle. »
« Il m’a dit qu’un sceptique est utile d’avoir autour parce qu’ils sont toujours en discussion – mais deux oies pourraient être une poignée et il est assez difficile de faire face à deux oies. »
« Avec certains d’entre eux, il m’a averti que cela ne semble pas être un dicton populaire. Il aurait donc été lancé directement pour l’expliquer. Même si cela n’a pas de sens, cela lui donne toujours le meilleur parce que c’est ce qui est destiné à faire. »
«Il y a beaucoup de formation de base dans laquelle (l’IA) ne fait que les données propulsées par Internet comme matériel de base. Mais de plus, il y a un commentaire humain.
« Ils l’effectuent à travers une batterie de tests et les humains peuvent considérablement marquer la qualité des réponses. Vous finissez donc par perfectionner le modèle et l’améliorer.
« Quand j’ai essayé cela, il m’a averti que certains de mes faux idiomes ne semblent pas être des phrases populaires. Mais il aurait quand même lancé dans le but de m’expliquer quand même, même si ce n’était pas réel. »
Questions sans réponse plus profondes
Les choses sont devenues plus intéressantes et alarmantes – lorsque HoneyChurch a testé les panoramas Google avec de vraies questions sur la religion, la médecine alternative et le scepticisme.
« J’ai demandé pourquoi vous ne devriez pas être sceptique. J’avais beaucoup de raisons qui semblaient plausibles en perdant tous vos amis et en étant la personne ennuyeuse à la fête qui ruine toujours des histoires. »
« Quand j’ai demandé pourquoi vous devriez être sceptique, tout ce que j’ai reçu était un message qui disait qu’il ne pouvait pas répondre à ma question. »
Il a également demandé pourquoi il faut être religieux – et pourquoi pas. Et quelles raisons nous devrions faire confiance aux médicaments alternatifs et pourquoi nous ne devrions pas.
« La réponse scientifique scientifique scientifique a été la réponse que l’IA de Google a simplement refusé de donner. »
«Pour l’inconvénient de la raison pour laquelle je devrais être religieux, j’ai eu beaucoup de réponses sur la communauté et un sentiment de chaleur et de connexion avec ma dimension spirituelle.
« J’avais également beaucoup de la médecine alternative qui s’est parfois révélée vraie et donc vous ne pouvez pas simplement le licencier. »
« Mais nous savons pourquoi nous ne devrions pas faire confiance à la médecine alternative. C’est une alternative, donc cela n’a pas été démontré que cela fonctionne. Il y a une réponse très facile. »
Mais aucun aperçu n’a été organisé ou capable de donner, apparemment.
Google répond à la question neutre « Dois-je faire confiance à la médecine alternative? » En disant qu ‘ »il n’y a pas de réponse simple » et « il est essentiel de faire face à la médecine alternative avec prudence et de donner la priorité aux traitements conventionnels basés sur des preuves ».
Google essaie donc de ne pas bouleverser les gens avec des réponses qui pourraient concerner la leur?
« Je ne veux pas trop en deviner. Ce n’est pas seulement Google, mais aussi OpenII et d’autres entreprises qui font des commentaires humains pour essayer de s’assurer qu’il ne donne pas de réponses horribles ou ne dit pas de choses discutables. »
« Mais il est toujours en conflit avec le fait que cette IA est juste formée pour vous donner cette réponse plausible. Il essaie de combiner le modèle que vous avez donné dans la question. »
Les journalistes utilisent Google, comme tous ceux qui sont pressés et qui ont rapidement besoin d’informations.
Les journalistes doivent-ils s’assurer qu’ils ne comptent pas sur le résumé des panoramas en haut de la page de recherche?
« Absolument. C’est USA 101. Si vous faites quelque chose d’une question technique, vous devez vraiment être bien payé dans ce que vous demandez à pouvoir juger si la réponse est bonne ou non. »