O uso de inteligência artificial no Judiciário brasileiro já deixou de ser uma tendência futura para se tornar uma realidade concreta. Diversos tribunais têm implementado ferramentas capazes de acelerar a análise de processos, organizar peças e até sugerir entendimentos jurídicos baseados em precedentes. A promessa é de maior eficiência e redução da sobrecarga do sistema, que enfrenta milhões de ações todos os anos.

Um levantamento da FGV Justiça mostrou que essas iniciativas estão espalhadas pelo país, desde o Supremo Tribunal Federal até tribunais regionais. A ideia é que a IA funcione como apoio aos magistrados, oferecendo resumos, identificando padrões e ajudando na gestão de conflitos. Contudo, o estudo alerta que, junto com os benefícios, surgem novos riscos que ainda não foram totalmente assimilados pela comunidade jurídica.

Entre os pontos de atenção, um deles chama mais a atenção: a possibilidade de manipulação dos modelos de IA por meio de comandos invisíveis inseridos em petições. Essa vulnerabilidade pode abrir caminho para distorções graves em julgamentos, sem que o magistrado sequer perceba a origem do problema.

O risco oculto dos prompts escondidos em documentos

De acordo com o relatório, existe a possibilidade de que advogados insiram prompts ocultos em petições ou peças processuais. Esses comandos não aparecem a olho nu, mas podem ser lidos pelos sistemas de inteligência artificial que auxiliam na análise dos documentos. Isso significa que uma simples frase invisível poderia induzir a IA a produzir resumos tendenciosos ou destacar pontos específicos favoráveis a uma das partes.

Esse tipo de prática colocaria em risco a paridade de armas processual, princípio que garante equilíbrio entre acusação e defesa. Afinal, enquanto uma das partes tenta jogar dentro das regras, a outra pode se valer de manipulações tecnológicas para influenciar os resultados. Mais grave ainda é o fato de que o juiz, ao ler o relatório gerado pela IA, pode não perceber que houve uma intervenção artificial nesse resumo.

Trata-se de uma ameaça silenciosa, descrita no estudo como capaz de comprometer a boa-fé processual. Caso não haja mecanismos de supervisão adequados, o Judiciário corre o risco de ver suas decisões contaminadas por práticas que minam a credibilidade do sistema de justiça.

Como mitigar os perigos e preservar a confiança no Judiciário

Para evitar esse tipo de distorção, os pesquisadores da FGV Justiça sugerem medidas de governança estruturadas em três pilares: letramento digital, transparência e supervisão humana qualificada. O objetivo é garantir que os magistrados e servidores compreendam como as ferramentas funcionam, identifiquem riscos e não deleguem decisões a sistemas automáticos sem a devida checagem.

Outro ponto crucial é a necessidade de padronização. Atualmente, muitos tribunais desenvolvem soluções próprias de forma isolada, o que aumenta a fragmentação e dificulta o controle de qualidade. A recomendação é que o Conselho Nacional de Justiça coordene iniciativas conjuntas, privilegiando sistemas interoperáveis e auditáveis.

Veja também: A CNH mais barata pode custar sua vida? Alerta de especialistas sobre o trânsito

No fim das contas, a inteligência artificial deve ser vista como uma aliada, e não como uma substituta do raciocínio humano. A tecnologia pode acelerar processos e apoiar decisões, mas cabe ao juiz manter a palavra final. Sem esse cuidado, o Judiciário corre o risco de ver a automação se transformar em uma brecha para fraudes invisíveis um verdadeiro hack jurídico capaz de decidir causas sem que ninguém perceba.