Юридична фірма Уолл-стріт Sullivan & Cromwell вибачилася перед федеральним суддею після того, як у судовій документації було виявлено близько 40 неправильних посилань та інших помилок, пов’язаних із контентом, згенерованим штучним інтелектом

Підсумок

• Sullivan & Cromwell визнала, що помилки, згенеровані ШІ, потрапили до судової документації, незважаючи на існуючі внутрішні політики перевірки.
• Ендрю Дітдеріч заявив, що фірма взяла на себе відповідальність після того, як неправдиві посилання потрапили до федерального суду з банкрутства.
• Юридична фірма розпочала внутрішню перевірку після того, як конкурентна фірма вказала на помилки у документах.

Проблема стала відомою у листі, надісланому Ендрю Дітдерічем, співголовою глобальної команди з реструктуризації фірми, головному судді Мартіну Гленну з Федерального суду з банкрутства Південного округу Нью-Йорка.

Дітдеріч повідомив, що ця справа була частиною екстреного клопотання, поданого дев’ять днів тому. Він заявив суду, що фірма бере на себе відповідальність за помилки і що існуючі кроки перевірки не спрацювали належним чином у цьому випадку.

Фірма визнає помилки у поданні та бере на себе відповідальність

У листі Дітдеріч зазначив, що фірма шкодує про те, що сталося, і визнає свою обов’язковість забезпечити точність судових подань. Він написав: «Ми глибоко шкодуємо, що це сталося.»

Він також додав: «Фірма і я добре усвідомлюємо нашу відповідальність за забезпечення точності всіх подань.» Дітдеріч додав, що він бере на себе відповідальність за провал, пов’язаний із цим поданням.

У судовій документації було близько 40 неправильних посилань та інших помилок. Фірма заявила, що ці проблеми спричинені галюцинаціями ШІ та помилками, які не були виявлені до подання.

Дітдеріч повідомив, що Sullivan & Cromwell вже має внутрішні правила щодо використання ШІ. Ці правила включають перевірку посилань перед поданням матеріалу до суду.

Існуючі політики перевірки ШІ не були дотримані

За словами Дітдеріча, у фірми були політики, що запобігають подібним проблемам, але необхідні процедури не були дотримані у цьому випадку. Він зазначив, що процес перевірки не зміг виявити неправдиві посилання та інші проблеми.

”На жаль, цей процес перевірки не виявив неточних посилань, згенерованих ШІ, і не виявив інших помилок, які, ймовірно, виникли частково або цілком через ручну помилку,” — написав він.

Цей випадок додає до зростаючого списку юридичних подань, у яких були виявлені помилки, спричинені ШІ. База даних, яку веде технологічний юрист Дамієн Шарлотен, зафіксувала 1334 випадки галюцинацій ШІ у судових документах по всьому світу, з понад 900 з них у Сполучених Штатах.

Шарлотен повідомив, що багато з цих випадків стосуються вигаданих посилань. У деяких випадках у документах також з’являлися юридичні аргументи, згенеровані ШІ.

Внутрішня перевірка розпочинається після виявлення помилок конкурентною фірмою

Дітдеріч повідомив, що Sullivan & Cromwell розпочала внутрішнє розслідування причин помилок. Він зазначив, що фірма вжила негайних заходів і переглядає, чи потрібне додаткове навчання або посилення внутрішніх перевірок.

Він також додав, що помилки були виявлені і повідомлені фірмі конкурентною юридичною фірмою Boies Schiller Flexner LLP. Дітдеріч сказав, що він безпосередньо контактував із цією фірмою, щоб подякувати їм і вибачитися.

Sullivan & Cromwell — одна з найбільших юридичних фірм у США за доходами. Фірма також брала участь у високопрофільних справах, зокрема у представництві FTX у справі про банкрутство.

Інцидент привернув додаткову увагу до ризиків, пов’язаних із використанням ШІ у юридичній роботі, особливо коли людський контроль не виявляє базових помилок перед поданням.