Evidência montada depois do fato é justificativa, não controle

Toda empresa que coloca agentes de IA para rodar processos regulados vai, em algum momento, receber uma pergunta simples dos auditores: por que este caso foi decidido assim?

A pergunta é simples. A resposta revela, em minutos, se a empresa tem controle sobre seus agentes de IA ou apenas uma narrativa sobre ter esse controle.

Dois caminhos que parecem iguais nos workflows — mas não são

Caminho A — evidência reconstruída. Só depois de perguntas, alguém abre os registros do agente, cruza com os logs dos sistemas, procura quem fez aprovações no e-mail, pede à TI a versão dos modelos que estavam em execução e monta um dossiê. Leva dias. Às vezes dá certo.

Caminho B — evidência gerada em tempo real. Os registros de auditoria já existem antes das perguntas, pois a operação os produz como subproduto da execução. Leva minutos para responder a questionamentos, e provavelmente haverá menos perguntas, com relatórios de alta qualidade.

No fluxo, os dois caminhos são idênticos: há política, há responsável, há registro. A diferença só aparece sob pressão — e é aí que ela custa caro.

?Pergunta do auditor: por que este caso foi decidido assim?

Caminho A · evidência reconstruída

1. Política
2. →Responsável
3. →Operação
4. →?Pergunta do auditor: por que este caso foi decidido assim?
5. →Abrir os registros do agente
6. →Cruzar com os logs dos sistemas
7. →Procurar as aprovações no e-mail
8. →Pedir à TI a versão dos modelos
9. →Montar um dossiê
10. →Dias. Às vezes dá certo.

Caminho B · evidência gerada em tempo real

1. Política
2. →Responsável
3. →Operação
4. →?Pergunta do auditor: por que este caso foi decidido assim?
5. →Responder
6. →Minutos.

O registro nasce com a operação

O que precisa estar nas trilhas de auditoria

Um pacote de registros de auditoria que sustenta questionamentos sérios tem estes itens, por unidade de trabalho:

1. A entrada — o que chegou ao agente de IA: tarefas, fluxos e processos.
2. A decisão — o que o agente fez, em que ordem, e por quê.
3. A alçada invocada — qual regra da matriz autorizava aquelas ações.
4. As fontes de dados consultadas — de onde vieram as informações utilizadas.
5. A intervenção humana — quem aprovou o quê, e quando.
6. O custo — o que aquela unidade de trabalho consumiu: tokens de IA, infraestrutura, horas de trabalho.
7. O resultado — aceito, corrigido ou recusado.

1. Entrada
2. Decisão
3. Ação
4. Resultado

Registro da unidade de trabalho

Chave: ID da unidade de trabalho

• Entradas
• Decisões
• Alçadas invocadas
• Fontes de dados consultadas
• Intervenções humanas
• Custos
• Resultados

Guardado em lotes encadeados e assinados com a chave do cliente

1. Lote 1

   Assinado · hash do anterior

3. Lote 2

   Assinado · hash do anterior

5. Lote 3

   Assinado · hash do anterior

7. Próximo lote
8. Alterou? A cadeia acusa

Reconstruir esses itens a posteriori é difícil não por falta de dados, mas porque eles vivem em sistemas diferentes, com relógios diferentes, sem uma chave que os ligue à mesma unidade de trabalho. O elo perdido é quase sempre o mesmo: o vínculo entre as decisões e as fontes de dados e as circunstâncias que as produziram.

Só uma em cada dez mantém trilhas de auditoria com esse vínculo entre decisão e fonte. Isso não é apenas um detalhe de maturidade: é a fronteira entre poder responder imediatamente e precisar negociar prazos com auditores, reguladores e litigantes.

O que deve acontecer antes de qualquer questão aparecer

Essa discussão costuma ser tratada como assunto de compliance, para resolver depois. Os dados mostram que ela já é uma questão operacional, do dia a dia:

E o ponto de partida da maioria das empresas é mais frágil do que o discurso sugere:

Agentes de IA que ninguém catalogou são agentes sem dono, sem alçada declarada e sem trilha de auditoria. Não aparecem no inventário justamente porque ninguém os está observando — e é isso que gera incidentes que ninguém consegue explicar depois.

Dois números completam o quadro:

Ou seja: quase ninguém impede automaticamente ações de agentes de IA fora de escopo, e só uma em cada cinco tem um processo formal para descomissionar e aposentar agentes. As duas pontas do ciclo de vida — o que os agentes de IA podem fazer e quando deixam de operar — permanecem em aberto.

Antes da produção

1. 01EntenderPonta que raramente se cobre
2. →02Especificar
3. →03Planejar

Em produção

4. 04Produção
5. →05Regime
6. →06Revalidar

Revalidar · a cada trimestre

Fim da vida

7. 07DesativarPonta que raramente se cobre

Por que os gates humanos importam mais do que parece

Um gate humano aprovando uma tarefa depois do fato não é controle: é apenas uma justificativa. E, em litígio, funciona contra quem assinou, pois demonstra que o controle existia no papel, mas não na prática.

Um gate humano que funciona tem três propriedades:

• É bloqueante. Se a aprovação não acontece, a ação não acontece. Um alerta que pode ser ignorado não é gate, é notificação.
• É registrado no mesmo lugar que a decisão. Aprovação por e-mail ou chat não se vincula à unidade de trabalho sem vinculação manual.
• Tem alçada declarada antecipadamente. Quem aprova precisa saber, por escrito, até que valor e em que condições uma aprovação pode ocorrer.

É gate	Não é gate
Gate bloqueanteSem a aprovação, a ação não acontece.	Alerta que pode ser ignoradoÉ notificação.
Aprovação antes da açãoÉ controle.	Aprovação depois do fatoÉ justificativa, e em litígio pesa contra quem assinou.

O padrão que sustenta isso é chamado de enumeração positiva: um agente de IA pode fazer apenas o que está listado, e o que não está listado é proibido por definição — não por política. A diferença entre "não deveria fazer" e "não consegue fazer" é a diferença entre confiar e verificar.

Uma profissão que ilustra o problema

Uma profissão inteira mostra o descompasso entre uso e regra:

Uso intenso, diretrizes baixas. Essa é a combinação que produz o pior resultado possível: a tecnologia já está no fluxo de trabalho, mas a organização não decidiu o que é aceitável. Quando algo dá errado, não há critério anterior a que recorrer — apenas opiniões formadas depois dos fatos. Isso, no caso de advogados, pode virar um escândalo jurídico, com cobertura de imprensa.

E as reversões já são a regra, não a exceção:

O que fazer, na ordem certa

1. Inventariar. Descobrir o que já roda, especialmente o que ninguém catalogou nem oficializou.
2. Nomear um dono humano para cada instância de cada agente de IA. Não uma área: uma pessoa.
3. Declarar as alçadas por escrito e nas regras de processamento, por enumeração positiva, antes da produção.
4. Instrumentar desde o primeiro dia. Evidência coletada a posteriori é reconstrução; evidência coletada em tempo real é registro.
5. Definir como desligar cada agente antes de ligá-lo oficialmente.

Nenhum desses passos exige tecnologia nova. Todos exigem decisão de gestão antes da implantação — que é, no fim, o que separa quem escala de quem cancela projetos.

As sete disciplinas que organizam isso estão em Método, e a camada que sustenta essas disciplinas em operação está em AInda Controle.