STF flagra comandos ocultos em peticao para induzir a IA do tribunal e aciona OAB e MPF

O Supremo Tribunal Federal (STF) identificou a primeira tentativa de uso de comandos ocultos em uma petição para direcionar sistemas de inteligência artificial da Corte a decidir a favor de uma das partes. O relator do caso, ministro Cristiano Zanin, aplicou multa de dois salários mínimos e mandou comunicar o episódio à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público Federal (MPF).

As medidas estão no voto apresentado nesta sexta-feira, 25, no Recurso Extraordinário com Agravo (ARE) 1608713, analisado pela Primeira Turma em sessão virtual iniciada no mesmo dia. A comunicação à OAB é para análise de eventual infração ético-disciplinar; a do MPF, para apuração de eventual crime.

Segundo a área técnica do tribunal, a petição trazia instruções escondidas em letras brancas e de tamanho reduzido, com argumentos e comandos destinados a induzir ferramentas de inteligência artificial a conhecer e dar provimento ao recurso. Algumas palavras foram fragmentadas de forma incomum, para dificultar a identificação dos comandos.

Quem detectou a manobra foi a Maria Shield, uma das funcionalidades da plataforma Maria, sistema de inteligência artificial desenvolvido pelo próprio STF para apoiar servidores na análise processual e na produção de documentos. A ferramenta procura padrões e conteúdos potencialmente maliciosos inseridos em peças processuais.

O que diz o tribunal sobre o efeito da tentativa

O gabinete de Zanin foi avisado em 3 de setembro pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia da Informação do Supremo. Ao ser informado, o ministro esclareceu que seu gabinete não usa inteligência artificial para analisar processos nem para fundamentar decisões.

A tentativa, portanto, não teve efeito sobre o julgamento. O recurso já havia sido rejeitado por Zanin em 19 de agosto, antes do alerta da área técnica. A parte apresentou agravo regimental contra essa decisão, e foi no voto levado à Primeira Turma que o ministro manteve os fundamentos, relatou o que encontrou nos autos e listou as providências.

O procedimento usado na petição é conhecido como injeção de comando, ou prompt injection: consiste em inserir instruções dentro de um conteúdo que será processado por um sistema de inteligência artificial, com o objetivo de alterar ou direcionar a resposta. No caso, os comandos buscavam orientar de forma oculta eventual ferramenta usada na análise do processo para adotar determinada linha de fundamentação e chegar a um resultado favorável à recorrente.

Qual é a base legal da multa aplicada

Zanin afirmou que a conduta viola o dever de lealdade das partes previsto no artigo 77 do Código de Processo Civil e, com base nesse dispositivo, fixou a multa em dois salários mínimos. A informação está na nota oficial publicada pelo Supremo, que não divulga o nome do advogado nem o do escritório responsável pela peça.

O recurso foi apresentado por uma servidora pública que teve anulada a nomeação para o cargo de oficial do Ministério Público de Minas Gerais. A controvérsia envolve a aplicação das regras de reserva de vagas para pessoas negras em concurso público e os critérios adotados na seleção.

Zanin havia negado o recurso por entender, entre outros pontos, que as questões constitucionais apresentadas não tinham sido analisadas antes pelo tribunal de origem, e que rever a decisão exigiria reexame de fatos, provas e regras do edital, o que a jurisprudência do Supremo não admite nessa fase.

A OAB e o MPF não haviam divulgado manifestação sobre o caso até a publicação desta reportagem. O julgamento do agravo na Primeira Turma segue na sessão virtual.

O uso de inteligência artificial já havia chegado ao noticiário do tribunal por outro caminho neste mês, quando um governador publicou um vídeo gerado por IA satirizando ministros, episódio descrito em o vídeo com IA que satiriza ministros do STF e Lula. Em outra frente, a Corte tem fixado regras processuais de alcance nacional, como a que definiu a renda que dá direito a justiça gratuita em todo o Judiciário.

O desfecho a acompanhar está em duas frentes fora do processo: o que a OAB decidir sobre a conduta profissional e se o MPF abrirá apuração criminal a partir da cópia recebida.