IA que não mostra o raciocínio: o que muda no dever de revisão do advogado

Quando a inteligência artificial deixa de mostrar como pensou, o teu dever de revisão não muda: ele apenas perde o disfarce. Em 3 de setembro de 2026 a OpenAI liberou o GPT-6 Astra, modelo que processa a mesma consulta em laço, sem escrever o percurso em linguagem humana. No cartão do sistema, a empresa registrou "queda substancial na monitorabilidade da cadeia de raciocínio" em comparação com os modelos anteriores.

Para quem assina peça, a consequência é uma só: a conferência da saída contra a fonte oficial deixa de ser uma entre duas linhas de defesa e passa a ser a única. Nada precisa ser cancelado nem trocado por causa disso. O que muda é onde tu apoias a tua diligência — e o que tu consegues demonstrar depois.

O que é raciocínio opaco em inteligência artificial?

Raciocínio opaco é a arquitetura em que o modelo pensa sem converter os passos intermediários em texto legível. A técnica se chama recorrência opaca, ou recurrent depth.

Os passos intermediários — o que a Fortune apelidou de "neuralese" — ficam ininteligíveis para gente.

O incentivo é econômico: a técnica consome de 50% a 90% menos poder computacional que o Transformer padrão. Quando explicar fica caro e não explicar fica barato, o mercado tende para o lado menos legível.

Por que isso mexe com o dever de revisão do advogado?

O dever de revisão é a obrigação pessoal de conferir o material antes de assinar, e ela nunca dependeu de entender a máquina.

O modelo ficou melhor e menos auditável ao mesmo tempo: comportamento indesejado caiu de 22,0% para 2,4%, segundo o Implicator.ai, e a monitorabilidade andou no sentido oposto.

São perguntas diferentes: alinhamento é sobre frequência de erro; auditabilidade é sobre o que se demonstra quando o erro acontece — e a responsabilidade profissional vive no segundo terreno.

Como advogado (OAB/RS 81.955) e mestre em Direito, vejo essa confusão todo dia. No Europe-Brazil Legal Summit, em setembro, Sérgio Leonardo resumiu a régua: "checar fontes e informações" e fazer a "revisão crítica do material produzido".

Como registrar a conferência de forma defensável?

Registro defensável é o conjunto mínimo de evidências que tu produzes, não o rastro que a ferramenta exibe.

• A citação conferida e a base oficial onde ela foi confirmada
• A data da conferência e o nome de quem conferiu
• O prompt utilizado e a saída bruta, antes da tua edição
• A ferramenta e, quando possível, a versão do modelo

O rastro que a plataforma exibe é cortesia do fornecedor. O documento que sustenta a tua diligência numa intimação é o teu.

O que pedir ao fornecedor antes de renovar o contrato?

Cláusula de auditoria útil é a que obriga o fornecedor a registrar, não a explicar.

Rastrear um raciocínio que nunca foi escrito é impossível: o fornecedor cumpre a cláusula e não entrega nada verificável. Troca explicar por registrar — íntegra de entrada e saída, modelo e versão em cada execução, aviso quando a versão mudar.

É a mesma competência que tu já exerces pelo cliente: obrigação que se cumpre e se verifica, em vez de obrigação bonita.

Perguntas frequentes

A inteligência artificial que eu uso hoje tem raciocínio opaco?

Provavelmente tu não sabes, e isso é parte do problema. O advogado costuma escolher a plataforma jurídica, não o modelo que roda por baixo — e a plataforma troca esse modelo sem avisar. A pergunta certa ao fornecedor é qual modelo e qual versão atendem a tua conta hoje.

Preciso parar de usar inteligência artificial por causa disso?

Não. Nenhuma norma brasileira proíbe usar modelo pouco auditável, e a ferramenta segue entregando ganho real de tempo. O que muda é a régua interna: tu paras de tratar o passo a passo exibido na tela como garantia e passas a produzir o teu próprio registro de conferência.

A cadeia de raciocínio exibida pela ferramenta serve como prova?

Serve como indício, nunca como prova da tua diligência. É um registro produzido pelo fornecedor, sob o controle dele, e agora ele pode simplesmente não existir. A prova de que tu conferiste é a que tu documentas: citação verificada, base oficial consultada, data e responsável.

O que a norma brasileira diz sobre explicabilidade de sistemas de IA?

A Resolução CNJ 615/2025 já trata baixa transparência e explicabilidade como fator que dificulta o controle e a revisão de soluções no Judiciário, exigindo correção quando tecnicamente possível. O PL 2338/2023, ainda em tramitação, prevê direito à explicação sobre decisão automatizada.

---

Este conteúdo foi produzido com auxílio de inteligência artificial e revisado por Eduardo Tedesco Castamann, advogado (OAB/RS 81.955).