Débloquez Editor’s Digest gratuitement
La rédactrice en chef du FT, Roula Khalaf, a choisi ses histoires préférées dans cette newsletter hebdomadaire.
Sullivan & Cromwell a déclaré à un tribunal fédéral américain des faillites que ses principaux documents déposés dans cette affaire très médiatisée incluaient de multiples « hallucinations » causées par son logiciel d’IA.
Andrew Diederich, responsable du département restructuration de S&C, s’est excusé samedi dans une lettre adressée au juge fédéral de New York, Martin Glenn, pour des erreurs dans la citation erronée de la loi américaine sur les faillites et dans la citation erronée d’affaires dans un dossier judiciaire déposé le 9 avril.
« Je regrette profondément que cela se soit produit », a-t-il déclaré dans la lettre.
Dietderich a déclaré que les politiques de l’entreprise concernant l’utilisation de l’IA n’étaient pas suivies au moment de la création du document et que l’entreprise réfléchissait à la question de savoir si ses processus internes de formation et de révision devaient être « davantage renforcés ».
La lettre ne précise pas quel avocat a préparé le document ni si l’avocat fait toujours partie du cabinet. S&C a refusé de commenter.
Cette erreur est le dernier exemple de la façon dont les entreprises de services professionnels exploitent une technologie de pointe pour accélérer des recherches minutieuses et réduire leurs effectifs tout en maintenant les normes de qualité.
L’affaire en question concerne la représentation par S&C d’un liquidateur nommé par les autorités judiciaires des îles Vierges britanniques qui engagent une procédure contre Prince Group et son propriétaire Chen Zhi.
L’année dernière, les procureurs fédéraux américains ont inculpé Gee de fraude électronique et de blanchiment d’argent, l’accusant de « diriger les opérations du groupe Prince concernant les installations frauduleuses de travail forcé à travers le Cambodge… et d’avoir volé des milliards de dollars à des victimes aux États-Unis et dans le monde ».
Dans une autre affaire, les procureurs américains ont également déposé une plainte civile pour confiscation visant à saisir environ 9 milliards de dollars de Bitcoin qui, selon les autorités américaines, étaient le produit des crimes du groupe Prince. M. Gee a été arrêté au Cambodge plus tôt cette année et extradé vers la Chine à la demande du gouvernement chinois.
Prince Group est une société constituée dans les îles Vierges britanniques, et la procédure du chapitre 15 du système judiciaire américain vise à formaliser la reconnaissance par le gouvernement américain du pouvoir du liquidateur des îles Vierges britanniques de représenter les créanciers et les victimes dans les procédures judiciaires américaines, ont déclaré les liquidateurs devant le tribunal.
Dans plusieurs cas, S&C a résumé de manière incorrecte les conclusions tirées dans d’autres affaires dans son dossier du 9 avril, selon une liste de corrections barrées que la société a soumise au juge.
S&C a obtenu une licence d’entreprise pour ChatGPT, selon des personnes familières avec les opérations de l’entreprise. Au moins cinq associés principaux ont été affectés au dossier de faillite du groupe Prince, selon le site Internet de S&C.
Les associés du cabinet facturent généralement plus de 2 000 dollars de l’heure pour les cas de faillite. L’entreprise a gagné des centaines de millions de dollars en frais pour avoir représenté l’échange de crypto-monnaie FTX lors de sa liquidation de faillite.
Boies Schiller Flexner, le cabinet d’avocats représentant M. Prince et M. Gee, a découvert des erreurs dans les dossiers S&C. Dans un document déposé la semaine dernière, BSF a déclaré que le langage cité par S&C dans sa requête « n’apparaît pas dans le chapitre 15 » et a souligné « plusieurs décisions citées » qui ont été « citées ou mal identifiées ».
S&C a déclaré que les cas cités dans sa plainte n’étaient « pas des procès » et qu’il s’agissait de « décisions distinctes dans différents circuits ».
S&C a déclaré devant le tribunal qu’il maintenait des normes « rigoureuses » lors de l’utilisation des outils d’IA et « demandait à ses avocats de « ne rien faire confiance et de tout vérifier ». Ne pas valider le résultat généré par l’IA est une « violation de la politique de l’entreprise ».
Il s’agit de la dernière d’une série d’erreurs commises par des cabinets d’avocats utilisant des outils d’IA. L’année dernière, Latham & Watkins a admis que l’un de ses avocats avait utilisé le modèle Claude d’Anthropic pour rédiger des soumissions comprenant de faux titres et auteurs pour des articles de magazine.
Dans un autre exemple, une cour d’appel fédérale de la Nouvelle-Orléans a ordonné une amende de 2 500 dollars à l’encontre d’un avocat qui avait soumis un mémoire contenant 21 erreurs ou fabrications insérées par AI.
Par ailleurs, en septembre, John Kucera, alors partenaire de BSF, a déclaré dans un procès contre Amazon qu’un document qu’il était responsable de la création à l’aide d’outils d’IA contenait des « erreurs de citation importantes » en raison d’un « échec de vérification » des détails. « J’ai honte et je regrette profondément ces erreurs », a-t-il déclaré dans son dossier. BSF n’a pas répondu aux demandes de commentaires.
S&C a déclaré au juge qui présidait l’affaire du Groupe Prince qu’un examen des documents avait également révélé « des erreurs substantielles et/ou matérielles dans d’autres arguments dans cette affaire ». L’entreprise a déclaré que ces erreurs avaient été commises par des humains et non par l’IA.
