Biaya per jam lembaga hukum top berapa lebih dari 2.000 dolar AS, dokumen pengadilan dibongkar “halusinasi AI, penuh kesalahan”

Kantor firma hukum terkemuka di Amerika, Sullivan & Cromwell (Sullivan & Cromwell), baru-baru ini meminta maaf secara terbuka kepada hakim federal, karena dokumen kepailitan yang mereka ajukan dipenuhi kesalahan yang dihasilkan AI, termasuk kasus-kasus palsu, kutipan yang direkayasa, dan undang-undang yang tidak ada—kekurangan ini bahkan dibongkar oleh firma pengacara eksternal. Ironisnya, para partner firma tersebut mengenakan tarif 2.000 dolar AS per jam, tetapi bahkan tidak berhasil menerapkan pemeriksaan dan penelaahan dasar.

Firma hukum top mengalami insiden! Dibongkar menggunakan AI untuk menulis dokumen, tapi penuh kesalahan

Kejadian ini terjadi dalam perkara kepailitan di Pengadilan Kepailitan Manhattan, AS, yang terkait dengan kelompok pangeran Kamboja (Prince Group). Sullivan & Cromwell mewakili likuidator yang ditunjuk oleh otoritas di Kepulauan Virgin Britania untuk hadir di persidangan, namun dokumen pengadilan yang mereka ajukan menampilkan banyak sekali kesalahan buatan AI, sekitar tiga puluh lebih.

Kesalahan-kesalahan ini bahkan bukan ditemukan oleh internal kantor, melainkan diungkapkan oleh firma pengacara pihak lawan dalam perkara yang sama, Boies Schiller Flexner, dalam dokumen publik. Jenis kesalahan mencakup menyebut nama-nama kasus palsu yang tidak pernah ada sama sekali, kalimat-kalimat rekayasa yang tidak pernah diucapkan atau ditulis, bahkan sepenuhnya mengarang sebagian ketentuan dari “Undang-Undang Kepailitan AS”.

Andrew Dietderich, kepala divisi restrukturisasi global di Sullivan & Cromwell, dalam suratnya tertanggal 18 April kepada hakim Martin Glenn mengakui bahwa sebagian kesalahan berasal dari halusinasi AI (hallucinations).

Pemeriksaan internal seperti tidak ada artinya, partner firma menagih 2.000 dolar AS per jam?

Pihak kantor dalam surat tersebut mengakui bahwa mereka memiliki kebijakan yang “lengkap beserta persyaratan pelatihan” terkait penggunaan alat AI, dan sebelum para pengacara memperoleh izin untuk menggunakan alat AI, mereka juga harus menyelesaikan kursus pelatihan, yang secara tegas mensyaratkan “jangan mudah percaya pada apa pun, semua harus diverifikasi langsung secara pribadi”. Namun, kebijakan di atas tidak diterapkan saat menyiapkan dokumen tersebut, dan prosedur peninjauan sekunder yang bertugas menjaga pun juga tidak mampu mencegat kesalahan apa pun.

Jika dibandingkan dengan tarif yang melebihi 2.000 dolar AS per jam yang dikenakan oleh partner firma tersebut, kasus ini memicu diskusi luas di kalangan hukum di dalam maupun luar negeri. Dalam suratnya, firma menyatakan bahwa setelah menemukan kesalahan, mereka telah melakukan peninjauan menyeluruh terhadap semua dokumen lain dalam kasus tersebut, memastikan bahwa halusinasi AI hanya muncul dalam dokumen ini, lalu kemudian mengajukan versi yang telah diperbaiki.

Halusinasi AI mengguncang dunia hukum, tanggung jawab etika pengacara kembali disorot

Kejadian ini bukan pertama kalinya dunia hukum memuat liputan karena kesalahan yang disebabkan AI. Pada 2023, dua pengacara di Manhattan, New York, dikenai denda 5.000 dolar AS oleh hakim federal karena menyerahkan ringkasan hukum yang dipenuhi kasus-kasus buatan ChatGPT. Dalam beberapa tahun terakhir, sudah ada puluhan kasus di mana pengacara dijatuhi sanksi oleh hakim karena menggunakan AI untuk riset hukum dan menyusun dokumen, namun tidak memverifikasi konten secara memadai.

American Bar Association (ABA) secara tegas telah meminta agar pengacara tetap berhati-hati ketika menggunakan model AI, dan secara moral pengacara juga berkewajiban memastikan akurasi semua dokumen yang diajukan ke pengadilan. Saat ini hukum tidak melarang pengacara menggunakan AI, tetapi kewajiban untuk memverifikasi setelah penggunaan tetap berada pada pengacara itu sendiri.

Trump suka banget! Firma lama bergengsi meminta maaf

Sullivan & Cromwell didirikan lebih dari seratus tahun lalu, merupakan salah satu firma hukum tertua dan paling berwibawa di sejarah Amerika, dengan lebih dari 900 pengacara, terkenal secara global dalam bidang merger & akuisisi, litigasi tata kelola perusahaan, serta bisnis ekuitas swasta. Baru-baru ini, firma ini terus mendapat perhatian karena mewakili Presiden Trump dalam berbagai perkara banding.

Insiden “ulah AI” ini tak diragukan lagi menorehkan retakan yang sulit diabaikan pada reputasi khas firma hukum elit tersebut, sekaligus kembali menjadi peringatan bagi seluruh industri hukum.

Artikel ini Top firma, tarif lebih dari dua ribu dolar AS per jam, dokumen pengadilan dibongkar “halusinasi AI, penuh kesalahan” pertama kali muncul di Lian News ABMedia.