Sistema mostra os trechos suspeitos e gera relatório com risco de prompt injection
O Tribunal de Justiça de Mato Grosso do Sul reforçou a segurança após identificar tentativas de manipulação por inteligência artificial em 28 ações na 2ª Vara Cível de Campo Grande. Um escritório de advocacia inseriu comandos ocultos para influenciar sistemas de IA do Judiciário. O ex-major Sérgio Roberto de Carvalho, o “Escobar Brasileiro”, foi multado em R$ 10 mil após a prática ser detectada em ação que movia contra veículos de imprensa.
O TJMS (Tribunal de Justiça de Mato Grosso do Sul) reforçou a segurança nos processos após tentativas de manipulação com IA (inteligência artificial) em ações na 2ª Vara Cível de Campo Grande.
Escritório de advocacia inseriu instruções de texto não visíveis na leitura convencional em 28 ações. Elas são projetadas para influenciar sistemas de inteligência artificial de apoio ao Poder Judiciário.
De acordo com o desembargador Odemilson Fassa, coordenador do Comitê de Governança e Ética para o uso de Inteligência Artificial no TJMS, foi disponibilizado recurso aos magistrados para validar a integridade das peças jurídicas.
“A ferramenta analisa o documento e gera um relatório claro apontando se há risco de prompt injection, mostrando os trechos suspeitos e orientando como tratar, assim como ocorreu na 3ª Vara do Trabalho de Parauapebas [PA], onde o sistema Galileu detectou comandos ocultos”, diz o desembargador.
Fassa destaca que a defesa institucional não se esgota na detecção tecnológica. “Ela exige também a curadoria e validação humana dos resultados gerados pelos sistemas de IA, o chamado human in the loop, bem como a articulação entre as esferas processual, disciplinar e, idealmente, penal, para que a resposta institucional seja proporcional à gravidade da conduta”.
Escobar brasileiro – Depois de identificar na petição inicial um “prompt injection” oculto, a Justiça em Campo Grande condenou o ex-major Sérgio Roberto de Carvalho, chamado de “Escobar Brasileiro”, a pagar multa em uma ação na qual ele buscava indenização por danos morais e queria impedir veículos de imprensa de usarem o apelido.
A decisão, de 19 de maio, foi assinada pelo juiz Renato Antonio de Liberali, da 11ª Vara Cível de Campo Grande. O magistrado entendeu que a inserção do comando oculto configurou ato atentatório à dignidade da Justiça e aplicou multa de 10% sobre o valor da causa, que era de R$ 100 mil, o que corresponde a R$ 10 mil.
Segundo a sentença, o texto oculto foi inserido no cabeçalho de todas as páginas da petição inicial e continha comandos voltados a influenciar eventual análise por sistemas de IA em tribunais superiores. O juiz afirmou que o comando buscava facilitar ou direcionar positivamente o recebimento de recurso, embora não tivesse efeito imediato no julgamento do processo em primeiro grau.
Receba as principais notícias do Estado pelo Whats. Clique aqui para acessar o canal do Campo Grande News e siga nossas redes sociais.