Ministro Schietti oficiou a OAB após identificar 16 precedentes fabricados; presidente Herman Benjamin anunciou investigação criminal das tentativas de prompt injection.
Em dois dias consecutivos, o Superior Tribunal de Justiça (STJ) foi confrontado com dois usos problemáticos de inteligência artificial no ambiente jurídico. O primeiro envolvia um advogado. O segundo, estelionatários. Os casos não têm relação entre si, mas chegaram ao tribunal quase ao mesmo tempo e revelam dimensões distintas do mesmo problema.
Em decisão publicada em 19 de maio de 2026, o ministro Rogério Schietti Cruz identificou, ao analisar um habeas corpus em favor de um investigado por tráfico de drogas, que a petição apresentava erros graves em série. Ele havia pedido ao advogado que explicasse se a peça havia sido elaborada integralmente por ferramenta de inteligência artificial. O profissional confirmou o “eventual” uso da tecnologia, mas afirmou ter realizado revisão técnica. O ministro considerou essa declaração contraditória com o que os autos mostravam.
A peça se apoiava quase exclusivamente em precedentes dos tribunais superiores, mas os 16 julgados citados apresentavam erros relacionados à relatoria, ao órgão julgador ou ao tipo de decisão. Trechos atribuídos às ementas e aos inteiros teores das decisões simplesmente não constavam dos documentos originais. Para Schietti, a ferramenta produziu “citações fabricadas em série”, o que os especialistas em IA chamam de alucinação, quando modelos de linguagem geram informações aparentemente plausíveis, mas falsas.
O ministro também observou que o advogado não desenvolveu nenhum argumento próprio na peça. “O uso de inteligência artificial na prática jurídica não é, em si, censurável. Trata-se de recurso que, quando bem empregado, pode qualificar o trabalho advocatício e racionalizar o esforço judicial. O problema está na ausência de verificação humana do conteúdo gerado. A tecnologia serve ao profissional, mas não o substitui nem o desobriga de conferir o que assina”, registrou.
Mesmo assim, Schietti examinou o mérito do habeas corpus e negou o pedido de soltura por entender que a prisão preventiva estava devidamente fundamentada. Determinou o envio de ofício à OAB para que a entidade avalie eventuais providências disciplinares (HC 1.094.270).
No dia seguinte, 20 de maio, o presidente do STJ, ministro Herman Benjamin, anunciou que o tribunal vinha identificando nas últimas semanas tentativas de uso de uma técnica chamada prompt injection em petições do acervo processual. Prompt injection consiste na inserção de comandos ocultos em textos aparentemente comuns, como petições e recursos, com o objetivo de interferir no funcionamento de sistemas de inteligência artificial. No caso do STJ, o alvo seria o STJ Logos, sistema de IA generativa desenvolvido pelo tribunal para auxiliar na triagem e análise processual. Os comandos seriam invisíveis ao leitor humano, mas legíveis pela ferramenta, com o propósito de induzir o sistema a gerar respostas favoráveis a determinada parte. Benjamin afirmou que as tentativas foram identificadas e neutralizadas pelas camadas de segurança do STJ Logos, que opera com três níveis de proteção: separação entre instruções legítimas e dados externos, limites de contexto para isolar comandos ocultos e revisão da resposta gerada antes de sua disponibilização.
As tentativas serão certificadas nos autos para possível aplicação de sanções processuais. O tribunal também instaurou inquérito policial e procedimento administrativo, com previsão de oitiva de advogados e escritórios envolvidos e possibilidade de responsabilização criminal e correicional.
Os dois episódios não se confundem. No caso Schietti, o problema foi o uso descuidado de uma ferramenta legítima sem verificação do resultado. No caso Benjamin, há indícios de tentativa deliberada de fraude processual. O que os une é a ausência de supervisão humana adequada sobre o que a máquina produziu ou deveria produzir.
Café para Pensar
O habeas corpus com alucinações é um sintoma de um problema que cresce em silêncio: a delegação da peça jurídica à inteligência artificial sem que o advogado leia o que está assinando. O código deontológico da advocacia não precisou ser atualizado para cobrir isso, a responsabilidade pelo conteúdo da petição sempre foi do profissional que a assina. O que mudou é que a ferramenta fabrica erros de forma convincente o suficiente para escapar a leituras apressadas.
O prompt injection é um problema diferente: é ataque, não negligência. Mas os dois casos chegaram ao STJ quase juntos e mostram que a introdução da IA no Judiciário criou vetores de vulnerabilidade que ainda estão sendo mapeados, por dentro e por fora do sistema.