O Tribunal Regional do Trabalho da 8ª Região (TRT-8), no Pará, aplicou multa de R$ 84,2 mil a duas advogadas que tentaram manipular o funcionamento da inteligência artificial utilizada no julgamento de um processo. As profissionais inseriram um comando oculto em uma petição com o objetivo de direcionar a análise da IA para uma avaliação superficial do documento apresentado.
Identificada pelo juiz do trabalho Luis Carlos de Araujo Santos Júnior, a prática conhecida como “prompt injection” consiste em inserir textos disfarçados para influenciar o comportamento de assistentes virtuais, levando-os a respostas inadequadas ou à omissão de verificações essenciais. No caso específico, o comando oculto foi inserido em letras brancas sobre fundo branco, instruindo a IA a contestar a petição de maneira rasa e sem impugnar os documentos anexados.
O sistema Galileu, desenvolvido pelo Tribunal Regional do Trabalho da 4ª Região (TRT-4) e empregado pelo TRT-8, detectou a tentativa de manipulação e emitiu um alerta, que resultou na análise humana e na consequente aplicação da penalidade. Segundo o TRT-4, o assistente não qualificou a conduta nem propôs ações, cabendo à equipe jurídica o julgamento final.
Contexto da técnica e implicações
A técnica de prompt injection, identificada pela primeira vez em 2022 por pesquisadores da empresa de cibersegurança Preamble, tem sido utilizada em ataques cibernéticos para induzir sistemas de IA a revelar informações sigilosas ou burlar mecanismos de segurança. A distinção entre injeção direta e indireta está na forma como os comandos são introduzidos: diretamente na interface do assistente ou embutidos em arquivos analisados pelo sistema, como ocorreu neste episódio.
As advogadas Alcina Medeiros e Luanna Alves negaram a intenção de manipular a decisão judicial, alegando que as ações visavam proteger o cliente frente ao uso da inteligência artificial, e informaram que irão recorrer da decisão.
