Escritórios de advocacia de primeira linha cobram mais de 2.000 dólares por hora, e documentos judiciais foram desmascarados por “alucinações de IA e erros em série”

O escritório de advocacia líder nos EUA Sullivan & Cromwell (Sullivan & Cromwell) pediu recentemente desculpas publicamente a um juiz federal, por ter apresentado documentos do tribunal de falências cheios de erros gerados por IA, incluindo precedentes falsos, citações inventadas e dispositivos legais inexistentes — falhas que até mesmo foram expostas por advogados externos. A ironia é que os sócios do escritório cobram 2.000 dólares por hora, mas não conseguiram colocar em prática nem mesmo uma revisão e checagem básica.

O escritório de advocacia deu ruim! Foi divulgado que usaram IA para escrever documentos e ainda com uma sequência de erros

O caso ocorreu no tribunal de falências dos EUA, em Manhattan, relacionado a um processo de falência ligado ao (Prince Group), o chamado grupo do príncipe do Camboja. A Sullivan & Cromwell representou o liquidante designado pelas autoridades das Ilhas Virgens Britânicas, e compareceu, mas, nos documentos judiciais apresentados, apareceram inúmeros erros gerados por IA, cerca de mais de trinta ocorrências.

Esses erros nem sequer foram descobertos dentro do próprio escritório; eles foram revelados pelo escritório de advogados da parte contrária, Boies Schiller Flexner, em documentos públicos. Os tipos de erro incluem citar nomes de precedentes falsos que não existem, inserir no documento alegações inventadas que jamais foram ditas ou escritas, e até mesmo fabricar completamente parte das disposições do (U.S. Bankruptcy Code).

O responsável global pelo reestruturação do Sullivan & Cromwell, Andrew Dietderich, admitiu em uma carta ao juiz Martin Glenn, datada de 18 de abril, que alguns dos erros eram alucinações de IA (hallucinations).

A revisão interna é quase inexistente; o sócio do escritório cobra dois mil dólares por hora?

Quanto ao escritório, Dietderich reconheceu na carta que o escritório adotou políticas “abrangentes e requisitos de treinamento” para o uso de ferramentas de IA, e que os advogados também devem concluir cursos de treinamento antes de obter autorização para usar as ferramentas de IA, nos quais há exigência clara de “não confiar em nenhum conteúdo, tudo deve ser verificado pessoalmente”. No entanto, as políticas acima não foram aplicadas ao preparar o referido documento, e o procedimento de segunda revisão encarregado de fazer a checagem também não conseguiu interceptar nenhum erro.

Em contraste com a cobrança de mais de 2.000 dólares por hora do sócio do escritório, o caso gerou ampla discussão nos círculos jurídicos dentro e fora do país. Na carta, o escritório afirmou que, após identificar os erros, realizou uma revisão abrangente de todos os outros documentos no caso, confirmou que as alucinações de IA ocorreram apenas nesse documento e, em seguida, submeteu uma versão corrigida.

Alucinações de IA atingem o meio jurídico; responsabilidade ética dos advogados volta a ser questionada

Este incidente não é a primeira vez que o setor jurídico aparece nas manchetes por problemas com IA. Em 2023, dois advogados em Manhattan, Nova York, foram multados em 5.000 dólares por um juiz federal por apresentarem ao tribunal um resumo jurídico cheio de casos inventados pelo ChatGPT. Nos últimos anos, houve dezenas de casos em que juízes aplicaram sanções a advogados por usarem IA para pesquisa jurídica e elaboração de documentos, sem verificar adequadamente o conteúdo.

A American Bar Association (ABA) já exigiu de forma explícita que os advogados mantenham cautela ao usar modelos de IA, e que, do ponto de vista ético, também têm a responsabilidade de assegurar a precisão de todos os documentos submetidos ao tribunal. Atualmente, a legislação não proíbe o uso de IA pelos advogados, mas o dever de verificação após o uso continua recaindo sobre o próprio advogado.

Trump gosta de carteiras! O respeitado escritório tradicional pediu desculpas

A Sullivan & Cromwell, fundada há mais de cem anos, está entre os escritórios de advocacia mais antigos e com maior prestígio na história dos EUA, contando com mais de 900 advogados, conhecida globalmente por fusões e aquisições, contencioso de governança corporativa e negócios de private equity. Recentemente, o escritório tem sido continuamente observado por ter representado o presidente Trump no tratamento de vários casos de apelação.

Este evento de “pegadinha” com IA, sem dúvida, acrescenta uma rachadura difícil de ignorar no cartão de visitas desse escritório de elite e, mais uma vez, acende um alerta para toda a indústria jurídica.

Este artigo 頂尖律所每小時收費逾兩千美元，法庭文件遭踢爆「AI 幻覺、錯誤連篇」 apareceu pela primeira vez em 鏈新聞 ABMedia.