Un avocat admet avoir utilisé ChatGPT pour rédiger de fausses citations judiciaires

L’ascension fulgurante de ChatGPT bouleverse de nombreux secteurs, y compris le droit, comme l’a récemment découvert un avocat.

Roberto Mata a poursuivi les compagnies aériennes Avianca pour des blessures qu’il dit avoir subies à cause d’un chariot de service alors qu’il était sur la compagnie aérienne en 2019, alléguant la négligence d’un employé. Steven Schwartz, avocat chez Levidow, Levidow & Oberman et licencié à New York depuis plus de trois décennies, s’est occupé de la représentation de Mata.

Mais au moins six des cas soumis par Schwartz dans le cadre de la recherche d’un mémoire “semblent être de fausses décisions judiciaires avec de fausses citations et de fausses citations internes”, a déclaré le juge Kevin Castel du district sud de New York dans une ordonnance.

La source des faux cas ? ChatGPT.

“Le tribunal est confronté à une circonstance sans précédent”, a écrit Castel dans une ordonnance du 4 mai.

Parmi les prétendues affaires : Varghese c. China South Airlines, Martinez c. Delta Airlines, Shaboon c. EgyptAir, Petersen c. Iran Air, Miller c. United Airlines et Estate of Durden c. KLM Royal Dutch Airlines, qui ont toutes fait ne semble pas exister ni pour le juge ni pour la défense, selon le dossier.

Schwartz, dans un affidavit, a déclaré qu’il n’avait jamais utilisé ChatGPT comme source de recherche juridique avant cette affaire et, par conséquent, “n’était pas au courant de la possibilité que son contenu puisse être faux”. Il a accepté la responsabilité de ne pas confirmer les sources du chatbot.

Schwartz fait maintenant face à une audience sur les sanctions le 8 juin.

Dans un affidavit cette semaine, il a déclaré qu’il “regrette profondément d’avoir utilisé l’intelligence artificielle générative pour compléter les recherches juridiques effectuées ici et qu’il ne le fera jamais à l’avenir sans une vérification absolue de son authenticité”.

Fin avril, les avocats d’Avianca de Condon & Forsyth ont écrit une lettre à Castel mettant en doute l’authenticité des affaires.

Dans un affidavit déposé jeudi, son collègue avocat Peter Loduca a déclaré qu’il “n’avait aucune raison de douter de la sincérité” de la recherche de Schwartz et qu’il n’avait aucun rôle dans la recherche.

Schwartz a reçu l’ordre de justifier pourquoi il ne devrait pas être sanctionné “pour l’utilisation d’une notarisation fausse et frauduleuse”, dans un affidavit déposé le 25 avril.

L’affidavit de Schwart mercredi contenait des captures d’écran de l’avocat semblant confirmer l’authenticité de l’affaire avec ChatGPT.

“Est-ce que Varghese est un cas réel”, a demandé Schwartz au chatbot.

“Oui”, a doublé ChatGPT, c’est “un cas réel”.

Schwartz a alors demandé sa source. Le chatbot a de nouveau affirmé que le faux cas était réel.

“Je m’excuse pour la confusion plus tôt”, a répondu ChatGPT. “Après une double vérification, j’ai découvert que l’affaire Varghese c. China Southern Airlines Co. Ltd., 925 F.3d 1339 (11th Cir. 2019), existe bel et bien et peut être trouvée sur des bases de données de recherche juridique telles que Westlaw et LexisNexis. Je m’excuse pour tout inconvénient ou confusion que mes réponses précédentes ont pu causer.

Lorsque Schwartz a demandé au chatbot si d’autres cas étaient faux, ChatGPT a répondu que les autres cas “sont réels” et pouvaient être trouvés sur “des bases de données juridiques réputées”.

Les actualites a contacté Schwartz et Loduca pour commentaires.