O uso de ferramentas de inteligência artificial na redação de petições tem levado aos tribunais um problema cada vez mais frequente: decisões que não existem, citações inventadas e informações jurídicas incorretas. Esses erros, conhecidos como "alucinações", acontecem quando o sistema gera um texto convincente, mas sem base em fontes reais, e o conteúdo é apresentado à Justiça sem a devida verificação.

O número de 1.395 casos que circula no debate vem de uma base de dados independente mantida pelo pesquisador francês Damien Charlotin, que reúne decisões judiciais em que juízes reconheceram o uso de conteúdo alucinado por IA. Esse total se refere apenas aos Estados Unidos; considerando todos os países, a base já soma mais de 2 mil casos, entre eles 41 no Brasil. Trata-se de um levantamento em construção, atualizado diariamente, e não de uma estatística oficial do Poder Judiciário, o que significa que o número real pode ser diferente.

Alguns episódios ficaram conhecidos. Em 2023, no caso Mata contra Avianca, em Nova York, um advogado apresentou precedentes inexistentes gerados pelo ChatGPT. No Reino Unido, a Alta Corte identificou 18 citações fictícias em um conjunto de 45 referências apresentadas em um processo. No Brasil, duas advogadas foram multadas em R$ 84,2 mil no Pará por inserir numa petição um comando escondido em letras brancas sobre fundo branco, numa tentativa de influenciar ferramentas de IA usadas na análise do caso.

Especialistas e magistrados têm reforçado a mesma mensagem: a tecnologia pode ajudar na pesquisa e na organização de documentos, mas não substitui a conferência humana. A responsabilidade pelo que é apresentado ao tribunal continua sendo de quem assina a peça, e advogados que deixam de checar as fontes podem responder com multas, sanções processuais e processos disciplinares.