O Tribunal de Justiça de Mato Grosso do Sul (TJMS) reforçou a segurança nos processos após detectar tentativas de manipulação com inteligência artificial (IA) em ações na 2ª Vara Cível de Campo Grande.
Um escritório de advocacia inseriu instruções de texto não visíveis na leitura convencional em 28 ações. Essas instruções foram projetadas para influenciar sistemas de inteligência artificial de apoio ao Poder Judiciário.
De acordo com o desembargador Odemilson Fassa, coordenador do Comitê de Governança e Ética para o uso de Inteligência Artificial no TJMS, um recurso foi disponibilizado aos magistrados para validar a integridade das peças jurídicas.
“A ferramenta analisa o documento e gera um relatório claro apontando se há risco de prompt injection, mostrando os trechos suspeitos e orientando como tratar, assim como ocorreu na 3ª Vara do Trabalho de Parauapebas [PA], onde o sistema Galileu detectou comandos ocultos”, disse o desembargador.
Fassa destacou que a defesa institucional não se esgota na detecção tecnológica. “Ela exige também a curadoria e validação humana dos resultados gerados pelos sistemas de IA, o chamado human in the loop, bem como a articulação entre as esferas processual, disciplinar e, idealmente, penal, para que a resposta institucional seja proporcional à gravidade da conduta”.
Depois de identificar um “prompt injection” oculto na petição inicial, a Justiça em Campo Grande condenou o ex-major Sérgio Roberto de Carvalho, chamado de “Escobar Brasileiro”, a pagar multa. A ação era movida por ele, que buscava indenização por danos morais e queria impedir veículos de imprensa de usarem o apelido.
A decisão, de 19 de maio, foi assinada pelo juiz Renato Antonio de Liberali, da 11ª Vara Cível de Campo Grande. O magistrado entendeu que a inserção do comando oculto configurou ato atentatório à dignidade da Justiça e aplicou multa de 10% sobre o valor da causa, que era de R$ 100 mil. O valor corresponde a R$ 10 mil.
Segundo a sentença, o texto oculto foi inserido no cabeçalho de todas as páginas da petição inicial e continha comandos voltados a influenciar eventual análise por sistemas de IA em tribunais superiores. O juiz afirmou que o comando buscava facilitar ou direcionar positivamente o recebimento de recurso, embora não tivesse efeito imediato no julgamento do processo em primeiro grau.
