O Superior Tribunal de Justiça instaurou apuração para investigar tentativas de manipulação de sistemas de inteligência artificial por meio da técnica conhecida como “prompt injection” em petições judiciais. A prática consiste na inserção de comandos ocultos em documentos processuais com o objetivo de influenciar respostas produzidas por ferramentas de IA utilizadas pelo Judiciário. Segundo o Tribunal, os episódios foram identificados recentemente e bloqueados pelas camadas de segurança do STJ Logos, sistema de inteligência artificial generativa desenvolvido pela Corte.

O presidente do STJ, ministro Herman Benjamin, afirmou que todas as tentativas estão sendo mapeadas para permitir eventual responsabilização dos envolvidos nas esferas processual, administrativa e criminal. De acordo com o Tribunal, o “prompt injection” funciona por meio da inclusão de instruções ocultas em petições, recursos e outros documentos jurídicos. Embora muitas vezes imperceptíveis para leitura humana, essas mensagens podem ser interpretadas por sistemas de IA, com a intenção de alterar comportamentos, ignorar protocolos internos ou gerar respostas favoráveis a uma das partes do processo.

A prática ganhou repercussão nacional após casos semelhantes registrados na Justiça do Trabalho, especialmente no âmbito do Tribunal Regional do Trabalho da 8ª Região. Além da investigação, o STJ determinou que as ocorrências sejam certificadas nos autos processuais, possibilitando que ministros avaliem a aplicação de sanções aos responsáveis. Também foram instaurados procedimentos administrativos e inquérito policial para apuração dos fatos.

O Tribunal informou ainda que o sistema STJ Logos possui múltiplas camadas de proteção para impedir interferências indevidas. Entre as medidas adotadas estão:

• separação entre comandos legítimos e dados externos;

• limitação de contexto para impedir sobreposição de instruções;

• revisão das respostas geradas pela IA antes da disponibilização final.

Segundo a Corte, a segurança e integridade dos processos envolvendo inteligência artificial têm sido prioridade desde o desenvolvimento da plataforma, lançada oficialmente em fevereiro de 2025.