Провідні юридичні фірми беруть понад дві тисячі доларів США за годину, судові документи були викриті «AI-галюцинаціями та суцільними помилками»

Американська провідна юридична фірма Sullivan & Cromwell (Sullivan & Cromwell) нещодавно публічно принесла вибачення федеральному судді. Причина — подані нею документи у справі про банкрутство були рясні помилками, згенерованими ШІ, зокрема фальшивими прецедентами, вигаданими цитатами та неіснуючими нормами закону; ці проломи навіть були викриті зовнішніми юристами. Іронія в тому, що партнери фірми беруть 2,000 доларів США за годину, але так і не змогли забезпечити навіть базову перевірку та вичитку.

Провідна юридична фірма припустилася промаху! ЗМІ повідомили, що документи писали за допомогою AI, і помилки сипалися одна за одною

Інцидент стався в США, у суді з питань банкрутства в Манхеттені, у справі, пов’язаній із кхмерською (камбоджійською) групою Prince Group (Prince Group). Sullivan & Cromwell виступала в суді від імені ліквідатора, призначеного органами Британських Віргінських Островів, однак у поданих судових документах було виявлено велику кількість помилок, згенерованих AI, — приблизно понад тридцять.

Ці помилки навіть не були знайдені всередині фірми; їх розкрили юристи протилежної сторони у цій справі — юридична фірма Boies Schiller Flexner у відкритих документах. До типів помилок належать посилання на фальшиві назви прецедентів, яких узагалі не існує, вигадані формулювання, які ніколи не озвучували й не писали, а також повне вигадування частин норм Закону США про банкрутство.

Керівник глобального напряму з реструктуризації Sullivan & Cromwell Andrew Dietderich у листі від 18 квітня судді Martin Glenn визнав, що частина помилок належить до AI-галюцинацій (hallucinations).

Внутрішня перевірка фактично нічого не важила, партнери фірми беруть по дві тисячі доларів за годину?

Зі свого боку, у листі Dietderich зазначив, що фірма має «вичерпну політику та вимоги щодо навчання» для використання інструментів AI; перед тим як юристи отримують доступ до використання інструментів AI, вони також мають пройти навчальні курси, де прямо вказано: «не довіряти будь-чому наосліп, усе потрібно особисто перевіряти». Однак зазначена політика під час підготовки цього документа не була застосована, а процедура повторної перевірки, відповідальна за контроль, також не змогла зупинити жодну з помилок.

На тлі того, що партнер(и) фірми виставляють погодинну оплату понад 2,000 доларів США, ця подія викликала широкі дискусії у юридичних колах як у країні, так і за кордоном. У листі фірма заявила, що після виявлення помилок здійснила повний перегляд усіх інших документів у справі, підтвердивши, що AI-галюцинації трапляються лише в цьому документі, і після цього подала виправлену версію.

AI-галюцинації вдарили по юридичній сфері, етична відповідальність юристів знову під прицілом

Ця подія — не вперше, коли через збої з AI представники юридичної спільноти потрапляють на шпальти. У 2023 році два адвокати в Манхеттені (штат Нью-Йорк) були оштрафовані федеральним суддею на 5,000 доларів США за подання до суду правового огляду, який містив вигадані ШІ (ChatGPT) приклади. Останніми роками вже було десятки випадків, коли судді карали юристів за використання AI для юридичних досліджень і підготовки документів, але без належного підтвердження змісту.

Американська асоціація адвокатів (ABA) вже чітко вимагає від юристів зберігати обережність при використанні AI-моделей; з морального погляду також існує обов’язок забезпечити точність усіх документів, поданих до суду. Наразі закон не забороняє юристам використовувати AI, але обов’язок перевірки після використання все одно лежить на самому юристі.

Трамп любить бренди! Славетна стара фірма принесла вибачення

Sullivan & Cromwell заснована понад сто років тому і є однією з найстаріших та найавторитетніших юридичних фірм у Сполучених Штатах; вона має понад 900 юристів і відома в усьому світі своїми послугами з M&A, судових спорів щодо корпоративного управління та приватного акціонерного капіталу. Нещодавно фірма продовжує привертати увагу через те, що представляла президента Трампа в кількох апеляційних справах.

Ця подія з AI-аваріями без сумніву залишила помітну й важко ігноровану тріщину на іміджі цієї елітної юридичної фірми, а також знову стала застережним дзвінком для всієї юридичної індустрії.

Ця стаття Першою з’явилася в 鏈新聞 ABMedia під заголовком «Юридична фірма бере понад дві тисячі доларів за годину, а у судових документах викрили “AI-галюцинації, помилок купа”».