米国の一流法律事務所スリバン・アンド・クロムウェル (Sullivan & Cromwell) は近日、連邦判事に対して公開の謝罪を行った。その理由は、同事務所が破産法廷に提出した書類には、AIによって生成された誤りがあふれており、その内容には虚偽の事例、捏造された引用、存在しない法令が含まれていたからで、これらの穴は外部の弁護士にさえ指摘されていた。皮肉にも、同事務所のパートナーは1時間あたり2,000ドルを請求しているにもかかわらず、基本的な審査・校正さえ徹底できていなかった。
一流法律事務所が手抜き！AIで書類作成したうえに、誤りだらけだと暴露
出来事は米国マンハッタンの破産裁判所で起きた、カンボジアのプリンス・グループ (Prince Group) に関連する破産案件である。スリバン・アンド・クロムウェルは英領ヴァージン諸島当局により指名された清算人として出廷したが、提出した法廷書類には大量のAI生成エラーが含まれており、およそ30件超にのぼる。
これらの誤りは事務所内部で発見されたものではなく、同じ案件の相手方弁護士事務所 Boies Schiller Flexner が公開書類で明らかにしたものだ。誤りの種類には、そもそも存在しない虚偽の判例名の引用、文書中にこれまで一度も口にされたり書かれたりしていない捏造の主張の登場、さらには《米国破産法》の一部条文を完全に捏造したことまで含まれる。
スリバン・アンド・クロムウェルのグローバル・リストラクチャリング部門責任者 Andrew Dietderich は4月18日付で判事Martin Glenn宛ての書簡の中で、一部の誤りがAIの幻覚 (hallucinations) によるものだと認めた。
社内審査はほとんど機能せず、法律事務所のパートナーは時給2,000ドル？
事務所側として、Dietderich は書簡の中で、事務所はAIツールの使用について「適切なポリシーと研修要件」を定めており、弁護士はAIツールの使用権限を得る前に研修コースを修了していなければならない、と認めた。その上で、そこには明確に「何も鵜呑みにせず、すべてを自分で確認する」ことが求められているという。しかし、上記の方針は当該文書の作成時には実際に運用されておらず、責任を負う二次審査手続きも同様にいかなる誤りも食い止めることができなかった。
同事務所のパートナーが1時間あたり2,000ドルを超える高額な報酬を受け取っていることと比べると、この件は国内外の法曹界で幅広い議論を呼んでいる。事務所は書簡の中で、誤りを発見した後、案件内の他のすべての文書について包括的な審査を行い、その結果、AIの幻覚が現れていたのはこの文書だけであることを確認し、その後、訂正バージョンを提出したと述べた。
AIの幻覚が法曹界に影響、弁護士の倫理的責任も再び問われる
今回の出来事は、法曹界が初めてAIの手抜きで注目を集めたわけではない。2023年には、ニューヨーク・マンハッタンの2人の弁護士が、裁判所に対してChatGPTによって捏造された事例が満載の法的要約を提出したとして、連邦判事により5,000ドルの罰金を科された。近年、法律調査や文書作成にAIを使用しつつ、内容を十分に検証しなかったとして、判事により裁罰された事例はすでに数十件にのぼる。
米国弁護士会 (ABA) はこれに対し、弁護士がAIモデルを使用する際には慎重であることを明確に求めており、倫理面でも、法廷に提出する書類の正確性をすべて確保する責任が弁護士本人にある。法律は現時点で弁護士がAIを使用することを禁じていないが、使用後の検証義務はなお弁護士本人に課される。
トランプが大好き！名声の高い老舗事務所が謝罪した
スリバン・アンド・クロムウェルは100年以上前に創設されており、米国で最も歴史が長く、評価の高い法律事務所の一つである。900人超の弁護士を擁し、M&A、企業統治訴訟、プライベート・エクイティ業務で世界的に知られている。最近では、同事務所がトランプ大統領をめぐる複数の控訴案件の代理を担ったことから、継続的に注目されていた。
今回のAIの失態による問題は、間違いなくこのエリート法律事務所の看板に、見過ごしがたい亀裂を刻むものであり、同時に法律産業全体にも改めて警鐘を鳴らした。
この記事『一流法律事務所は時給2,000ドル超、法廷書類が暴露され「AIの幻覚、誤りだらけ」』は、最初に 鏈新聞ABMedia に掲載された。
関連記事
Judge Dismisses Fraud Claims in Elon Musk's OpenAI Lawsuit; Case Advances to Trial with Two Remaining Allegations
