Uma ferramenta de inteligência artificial desenvolvida pelo Tribunal Regional do Trabalho da 4ª Região conseguiu identificar uma tentativa de manipulação em um processo judicial analisado no Pará.

O sistema, chamado Galileu, detectou um “código secreto” inserido em uma petição apresentada no município de Parauapebas.

Além disso, a tecnologia neutralizou automaticamente a tentativa de ataque antes que o conteúdo afetasse a análise do documento.

Como funcionou o ataque identificado pela IA

Segundo o TRT4, a técnica utilizada no processo é conhecida como “prompt injection”.

Nesse tipo de ataque, comandos ocultos são inseridos em documentos para tentar manipular sistemas de inteligência artificial durante a leitura das informações.

De acordo com a secretária-geral de tecnologia e inovação do tribunal, Natacha Moraes de Oliveira, esse foi o primeiro caso confirmado desse tipo identificado pela plataforma.

Além disso, ela explicou que o sistema já havia sinalizado conteúdos suspeitos anteriormente. No entanto, após análise humana, os casos anteriores foram classificados como falsos positivos.

Sistema identificou e bloqueou o conteúdo oculto

O Galileu atua em diferentes etapas para impedir tentativas de manipulação.

Primeiramente, a ferramenta analisa os documentos enviados ao sistema judicial.

Em seguida, o software identifica possíveis trechos ocultos com comandos considerados maliciosos.

Depois disso, o sistema emite um alerta técnico para o usuário responsável pela análise do processo.

Além disso, o Galileu bloqueia automaticamente o processamento do comando suspeito, evitando que a IA seja enganada.

Decisão final continua sendo humana

Segundo o TRT4, um dos principais pilares do sistema é a supervisão humana obrigatória.

Ou seja, a ferramenta apenas aponta a ocorrência técnica detectada durante a leitura do documento.

No entanto, o sistema não aplica punições nem toma decisões judiciais.

No caso ocorrido no Pará, o juiz responsável analisou o conteúdo indicado pela IA antes de decidir pela aplicação de multa no processo.

Tecnologia reforça segurança no Judiciário

O caso aumentou o debate sobre segurança digital e uso responsável de inteligência artificial no sistema judicial brasileiro.

Além disso, especialistas avaliam que ferramentas com mecanismos de proteção integrados podem reduzir riscos de manipulação em processos eletrônicos.

Enquanto isso, tribunais brasileiros ampliam investimentos em automação e soluções baseadas em IA para agilizar atividades internas.

Veja mais Tecnologia no Surgiu.