ChatGPT inventa casos jurídicos e coloca advogado em saia justa
Confira o caso que aconteceu num processo dos Estados Unidos.
Para defender um processo, é comum usar casos semelhantes anteriores para ver aplicações e argumentações úteis para o caso do seu cliente. Dos arquivos físicos para os arquivos online, o processo de pesquisa e preparo ficou mais simples. Agora, com a inteligência artificial e o ChatGPT, isso deveria ser mamão com açúcar.
Mas acabou que o recurso deixou um advogado nos Estados Unidos em maus lençóis, porque os resultados gerados pelo ChatGPT apresentaram casos inventados. Os profissionais envolvidos podem ser punidos. Entenda o caso.
Deu a louca na inteligência artificial
Depois de um incidente no voo que machucou seu joelho, Roberto Mata decidiu processar a empresa aérea Avianca. O processo começou em 2019 e estava para ser arquivado. Mas um dos profissionais responsáveis pelo caso, Steven A. Schwartz, entrou com um recurso citando vários casos semelhantes ao de Mata, num documento de dez páginas.
Para encontrar esses casos, Schwartz recorreu ao ChatGPT para encontrar casos semelhantes ao de seu cliente. A fim de garantir que os casos eram legítimos, ele perguntou à inteligência artificial se os casos eram reais, ao que que o chatbot respondeu que sim e que os documentos poderiam ser encontrados em “bases de dados jurídicas de reputação”.
Parecia um caso garantido e resolvido com certa facilidade. Mas, na hora de analisar o documento, nem o juiz responsável pelo caso nem os advogados da Avianca conseguiram achar os registros desses casos citados pelo recurso.
Chegou um momento que Schwartz precisou admitir ter usado o ChatGPT para encontrar essas informações e foi entendido que o chatbot teria inventado todos os dados que ele ofereceu.
O advogado se desculpou, e agora cabe ao juiz decidir se as pessoas envolvidas serão punidas ou não.
Falha no sistema
Esse comportamento da inteligência artificial, quando ela gera conteúdos sem sentido ou incorretos, é chamado de “alucinação”. A questão é que o ChatGPT não é propriamente uma ferramenta de busca, ela é uma ferramenta mais confiável para a estruturação de conteúdos e geração de textos coesos, mas que não tem compromisso nenhum com a verdade.
