STF flagra comando oculto em petição para induzir sua IA e aplica multa de dois salários mínimos
Zanin manda comunicar OAB e MPF; instruções em letras brancas foram detectadas pela ferramenta Maria Shield, do próprio tribunal
O Supremo Tribunal Federal (STF) identificou a primeira tentativa de uso de comandos ocultos em uma petição para direcionar os sistemas de inteligência artificial da Corte a produzir decisão favorável a uma das partes. O relator do caso, ministro Cristiano Zanin, aplicou multa de dois salários mínimos, mandou comunicar a Ordem dos Advogados do Brasil (OAB) e o Ministério Público Federal (MPF) e levou o episódio à Primeira Turma na sessão virtual iniciada na sexta-feira, 25.
As medidas estão no voto do ministro no Recurso Extraordinário com Agravo (ARE) 1608713. Segundo a nota publicada pelo Supremo, a área técnica do tribunal registrou que "foram inseridas na petição instruções ocultas, em letras brancas e de tamanho reduzido, com argumentos e comandos destinados a induzir ferramentas de IA a conhecer e dar provimento ao recurso". Algumas palavras também foram fragmentadas de forma incomum para dificultar a identificação dos comandos.
Como o tribunal descobriu
Quem flagrou a inserção foi a Maria Shield, uma das funcionalidades da plataforma Maria, o sistema de inteligência artificial que o próprio STF desenvolveu para apoiar servidores na análise de processos e na produção de documentos. A ferramenta procura padrões e conteúdos potencialmente maliciosos dentro das peças processuais, incluindo comandos escondidos para interferir em outros sistemas de IA.
O Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia da Informação (SGTI) comunicou o gabinete de Zanin em 3 de setembro. O ministro esclareceu que seu gabinete não usa inteligência artificial para analisar processos nem para fundamentar decisões. A tentativa, portanto, não teve efeito sobre o julgamento: o recurso já havia sido rejeitado por ele em 19 de agosto, duas semanas antes do alerta da área técnica.
A técnica tem nome. O procedimento chamado prompt injection consiste em inserir instruções dentro de um conteúdo que será processado por um sistema de inteligência artificial, com o objetivo de alterar ou direcionar a resposta que ele vai dar. É o mesmo método que empresas de tecnologia tratam como ataque a modelos de linguagem, agora registrado em autos judiciais no Brasil.
O que o relator decidiu
A parte apresentou agravo regimental contra a decisão de Zanin. No voto levado à Primeira Turma, o ministro manteve os fundamentos jurídicos para negar o pedido e acrescentou o registro da conduta e as providências adotadas. Ele afirmou que esse tipo de comportamento viola o dever de lealdade das partes previsto no artigo 77 do Código de Processo Civil e, com base nesse dispositivo, fixou a multa de dois salários mínimos.
O caso de fundo não tem relação com tecnologia. O recurso foi apresentado por uma servidora pública que teve anulada a nomeação para o cargo de oficial do Ministério Público de Minas Gerais, e a controvérsia envolve a aplicação das regras de reserva de vagas para pessoas negras no concurso e os critérios adotados. Zanin negou o recurso por entender que as questões constitucionais não haviam sido analisadas antes pelo tribunal de origem e que rever a decisão exigiria reexame de fatos, provas e regras do edital, o que a jurisprudência do STF não admite nessa fase.
A OAB vai avaliar eventual infração ético-disciplinar e o MPF, eventual prática de crime. Nem a Ordem nem a Procuradoria haviam se manifestado sobre o caso até a publicação desta reportagem. O nome do advogado responsável pela peça não foi divulgado pelo tribunal.
O Judiciário brasileiro já discute o uso da tecnologia dentro dos tribunais. Em agosto, o presidente do STF, ministro Edson Fachin, defendeu o debate sobre o uso ético da inteligência artificial no Judiciário, com base na Resolução 615/2025 do Conselho Nacional de Justiça. O episódio do ARE 1608713 muda o ângulo da conversa: não se trata de como o tribunal usa a ferramenta, e sim de quem tenta usá-la contra ele.
O julgamento do agravo regimental corre em sessão virtual da Primeira Turma. A íntegra do relatório e do voto do relator está publicada no portal do Supremo.
