Un juge américain a infligé une amende de 5 000 $ (3 935 £) à deux avocats et à un cabinet d’avocats après de fausses citations générées par ChatGPT ont été déposées dans un dossier judiciaire.
Un juge de district de Manhattan a ordonné à Steven Schwartz, Peter LoDuca et leur cabinet d’avocats Levidow, Levidow & Oberman de payer l’amende après que des recherches juridiques fictives aient été utilisées dans une réclamation pour blessure à l’aviation.
Schwartz avait admis que ChatGPT, un chatbot qui produit des réponses textuelles plausibles aux invites humaines, avait inventé six cas auxquels il faisait référence dans un mémoire juridique dans une affaire contre la compagnie aérienne colombienne Avianca.
Le juge P Kevin Castel a déclaré dans une opinion écrite qu’il n’y avait rien de “intrinsèquement inapproprié” à utiliser l’intelligence artificielle pour aider au travail juridique, mais les avocats devaient s’assurer que leurs documents étaient exacts.
“Les progrès technologiques sont monnaie courante et il n’y a rien de fondamentalement inapproprié à utiliser un outil d’intelligence artificielle fiable pour l’assistance”, a écrit Castel. “Mais les règles existantes imposent un rôle de contrôle aux avocats pour garantir l’exactitude de leurs documents.”
Le juge a déclaré que les avocats et leur cabinet “ont abandonné leurs responsabilités lorsqu’ils ont soumis des avis judiciaires inexistants avec de fausses citations et citations créées par l’outil d’intelligence artificielle ChatGPT, puis ont continué à respecter les faux avis après que des ordonnances judiciaires ont remis leur existence en question”.
Levidow, Levidow & Oberman ont déclaré jeudi dans un communiqué que ses avocats étaient “respectueusement” en désaccord avec le tribunal selon lequel ils avaient agi de mauvaise foi. “Nous avons fait une erreur de bonne foi en ne croyant pas qu’une technologie pourrait fabriquer des étuis à partir de tissu entier”, a-t-il déclaré.
Les avocats de Schwartz ont déclaré à Reuters qu’il avait refusé de commenter. LoDuca n’a pas immédiatement répondu à une demande de commentaires de Reuters, et son avocat a déclaré qu’ils réexaminaient la décision.
ChatGPT avait suggéré plusieurs cas impliquant des accidents d’aviation que Schwartz n’avait pas été en mesure de trouver par les méthodes habituelles utilisées dans son cabinet d’avocats. Plusieurs de ces cas n’étaient pas réels, des juges mal identifiés ou impliquaient des compagnies aériennes qui n’existaient pas.
Les chatbots tels que ChatGPT, développé par la firme américaine OpenAI, peut être sujet à des « hallucinations » ou à des inexactitudes. Dans un exemple, ChatGPT a faussement accusé un professeur de droit américain de harcèlement sexuel et a cité un rapport inexistant du Washington Post dans le processus. En février, une vidéo promotionnelle du rival de Google pour ChatGPT, Bard, a donné une réponse inexacte à une question sur le télescope spatial James Webb, faisant craindre que la société de recherche ait été trop hâtive dans lancer une riposte à la percée d’OpenAI.
Les chatbots sont formés sur une vaste mine de données extraites d’Internet, bien que les sources ne soient pas disponibles dans de nombreux cas. Fonctionnant comme un outil de texte prédictif, ils construisent un modèle pour prédire le mot ou la phrase le plus susceptible de venir après l’invite d’un utilisateur. Cela signifie que des erreurs factuelles sont possibles, mais la réponse d’apparence humaine peut parfois convaincre les utilisateurs que la réponse est correcte.
Related News
