Erros em processo faz MP apontar “alucinação jurídica por IA”. Veja vídeo

Em tempos nos quais o uso das ferramentas de inteligência artificial generativa tem sido comum, um alerta foi emitido pela procuradora-geral do Ministério Público de Contas de São Paulo (MPC-SP), Letícia Formoso. Durante julgamento, a procuradora apontou diversos erros em um processo, que de tão grosseiros pareciam ter sido o que ela chamou de “alucinação jurídica por IA”.

A procuradora ressaltou que, nos autos em questão, apreciados pelo Pleno, foram identificadas referências legais e jurisprudenciais incorretas, relatorias divergentes e até menção a dispositivos legais inexistentes. Em seguida, fez um alerta “sobre o uso irresponsável de ferramentas de inteligência artificial generativa em manifestações processuais”. Veja vídeo:

O julgamento em questão tratava de representação envolvendo edital para contratação de solução integrada de software de gestão pública. Na manifestação apresentada por uma das partes foram identificados os erros: “É provável que tenha havido uso de ferramenta de inteligência artificial generativa sem o controle humano suficiente e necessário”, considerou a procuradora.

Ela ressaltou que o emprego inadequado dessas tecnologias “tem potencial de induzir o tribunal a erro”, além de poder configurar violação aos deveres de veracidade, boa-fé e lealdade processual que se impõem a todos que atuam no processo, seja no polo ativo ou passivo.

“A inteligência artificial generativa é importante e necessária para a eficiência, mas necessita do olhar cuidadoso e do uso consciente”, ressaltou durante o julgamento.