Juízes podem usar IA como apoio, mas decisão e análise das provas devem ser humanas

O Conselho Nacional de Justiça, o CNJ, permite que juízes utilizem inteligência artificial para apoiar o trabalho, mas exige que a avaliação das provas e a decisão sobre a causa continuem nas mãos de uma pessoa. A responsabilidade pelo julgamento permanece com o magistrado, inclusive quando uma ferramenta prepara o rascunho da sentença.

A resolução foi publicada em março de 2025 e passou a valer em julho do mesmo ano. Ela autoriza atividades preparatórias, estabelece supervisão humana e define restrições para aplicações de alto risco e para o tratamento de informações protegidas por sigilo.

Entre os usos admitidos estão resumir documentos, organizar provas, pesquisar decisões anteriores e produzir minutas. As regras alcançam o uso das ferramentas por magistrados e servidores, com a tecnologia exercendo uma função de apoio à atividade do Judiciário. O apoio tecnológico em nenhuma dessas tarefas preparatórias, porém, dispensa a fundamentação da decisão nem a análise individual das provas do processo. A supervisão humana continua sendo uma exigência dessa regulamentação.

Em uma ação criminal, por exemplo, o sistema não pode decidir se o acusado é culpado nem calcular, por conta própria, a pena que deverá cumprir. A distinção central está entre preparar informações para o julgamento e exercer a atividade de julgar.

O que permanece sob decisão humana

O juiz federal George Marmelstein, secretário-geral da Escola Nacional de Formação e Aperfeiçoamento de Magistrados, integra o Comitê Nacional de Inteligência Artificial do Judiciário e participou do grupo que elaborou as regras. Ele identifica como limite a chamada reserva de humanidade: escolhas que envolvem julgamento e valoração não podem ser transferidas à máquina.

Organizar o material probatório é permitido; atribuir peso a cada prova para condenar alguém é tarefa exclusiva do magistrado. Isso também se aplica à definição de culpa, à procedência de um pedido e à decisão sobre aplicar uma multa.

Há outras proibições: sistemas que bloqueiem a revisão humana, ferramentas que classifiquem pessoas para avaliar direitos ou depoimentos e determinadas formas de reconhecer emoções a partir de características biométricas.

Bianca Mollicone, advogada especializada em regulação e sócia do escritório Pessoa & Pessoa Advogados, explica que a tecnologia pode ajudar a montar cronologias, resumir petições e localizar questões controvertidas. Para ela, a amplitude desse apoio preparatório não autoriza delegar a decisão. Mesmo quando a ferramenta participa de várias fases da preparação, o magistrado segue obrigado a justificar o resultado e examinar as particularidades do material apresentado.

Por que ferramentas comerciais são permitidas

A possibilidade de usar plataformas como ChatGPT e Claude dividiu o grupo responsável pela regulamentação. Uma posição defendia apenas sistemas desenvolvidos pelos próprios tribunais, para ampliar o controle dos dados e evitar seu uso no treinamento de modelos comerciais. Esse debate envolveu tanto a segurança das informações processuais quanto a capacidade de o Judiciário dispor de sistemas próprios com desempenho equivalente ao das plataformas externas.

Outra preocupação era que essa exclusividade dificultasse o acesso a tecnologias mais avançadas. Segundo Marmelstein, limitações de orçamento e problemas de contratação ainda impedem a criação de soluções equivalentes às das grandes empresas do setor.

O resultado foi a autorização para utilizar plataformas comerciais, condicionada ao cumprimento da resolução. O magistrado considera desejável uma ferramenta própria do Judiciário, com proteção dos dados e treinamento alinhado aos critérios e interesses institucionais.

A professora Ana Frazão, da Faculdade de Direito da Universidade de Brasília, discorda da permissão. Pesquisadora de regulação tecnológica e responsabilidade jurídica, ela vê riscos às garantias processuais e à fiscalização, sobretudo quando a fornecedora da ferramenta tem interesses econômicos em processos judiciais.

Dados sigilosos exigem cuidado

Marmelstein distingue a assinatura contratada individualmente pelo juiz do serviço administrado pelo tribunal. Para os modelos contratados pessoalmente pelo magistrado, ele afirma haver consenso de que processos sigilosos não podem ser utilizados.

Já na contratação institucional há divergência de interpretação. Uma corrente entende que seria possível tratar processos sigilosos se o modelo dispuser de governança para proteger os dados. Portanto, a possibilidade não é apresentada como autorização irrestrita.

Mollicone aponta que informar o nome da ferramenta utilizada não assegura acesso ao histórico completo de comandos, aos documentos enviados ou aos registros guardados pela empresa. Ela defende mecanismos para identificar o conteúdo gerado e as alterações feitas antes do julgamento final.

O presidente da Ordem dos Advogados do Brasil em Rondônia, Márcio Nogueira, especialista em Direito Eleitoral e Digital, também questiona a fiscalização do uso individual. Sua preocupação é a falta de rastreabilidade sobre quem utiliza as plataformas, com quais finalidades e com quais informações.

Fiscalização e revisão dos resultados

Na quarta-feira, 11 de novembro, o presidente do Superior Tribunal de Justiça, o STJ, Luis Felipe Salomão, reconheceu em um evento a dificuldade de controlar ferramentas utilizadas em telefones, aplicativos e computadores pessoais de magistrados.

Mesmo diante desse desafio, conferir as respostas produzidas continua sendo dever do juiz. A revisão deve alcançar os dados apresentados, os fundamentos jurídicos e as provas de cada caso, sem tratar o conteúdo gerado como uma conclusão pronta.

Uma das falhas possíveis são as chamadas alucinações: respostas incorretas ou inventadas que podem incluir leis inexistentes e referências a julgamentos que nunca ocorreram. Esses erros podem comprometer a fundamentação.

Segundo Mollicone, decisões apoiadas em jurisprudência inexistente, omissão de provas relevantes ou argumentação inadequada podem ser corrigidas, reformadas ou anuladas pelos meios previstos na legislação. Os instrumentos processuais permitem examinar o defeito da decisão, como uma referência jurídica que não existe ou uma prova relevante deixada sem análise. A consequência depende da gravidade do problema; o simples uso de IA não torna uma decisão nula. Para que haja nulidade, é necessário um vício juridicamente relevante, conforme explica a advogada ao distinguir o uso da ferramenta dos erros que podem decorrer dele.

Quem responde por irregularidades

Além dos efeitos no processo, magistrados que violem seus deveres podem responder administrativamente e receber sanções previstas na legislação da magistratura. A resolução do CNJ não criou punições específicas para o uso irregular da tecnologia.

Advogados e partes também podem ser penalizados, especialmente quando procuram interferir deliberadamente nas ferramentas dos tribunais. Um exemplo são instruções escondidas em petições para influenciar sistemas que leem e analisam documentos, prática conhecida como prompt injection.

Em setembro, o STJ identificou um comando oculto em recurso assinado por um procurador municipal e fixou multa de 10% do valor da causa por litigância de má-fé. O Código de Processo Civil prevê, em geral, multa superior a 1% e inferior a 10% do valor corrigido da causa.

Em outubro, o STJ aplicou multa de R$ 20 mil a advogados por ato atentatório à dignidade da Justiça. Em outro processo, o Supremo Tribunal Federal, o STF, multou um advogado em R$ 5 mil por inserir comando oculto em petição ligada aos atos de janeiro de 2023.

Apuração depende de cada caso

Essas condutas podem levar ainda à apuração ético-disciplinar pela Ordem dos Advogados do Brasil e à investigação criminal. O enquadramento exige analisar as circunstâncias e a responsabilidade de cada envolvido.

Entre os crimes que podem ser investigados está a fraude processual, prevista no Código Penal. A pena é de 3 meses a 2 anos de detenção e multa, com possibilidade de ser dobrada quando a conduta busca produzir efeito em processo penal.

Para Frazão, o dever de cuidado abrange tanto selecionar a ferramenta quanto acompanhar os resultados. A responsabilidade humana, nessa avaliação, começa antes da resposta gerada e inclui sua fiscalização.

A aplicação de penalidades por comandos ocultos ou outras irregularidades exige enquadramento jurídico e apuração de responsabilidade; não ocorre de forma automática.