Audit trail em IA

Audit trail em IA é o registro cronológico e imutável de cada chamada feita a um modelo de linguagem: quem fez a requisição, qual dado foi enviado, qual resposta foi recebida e em qual timestamp — tudo armazenado de forma que não possa ser alterado retroativamente.

Pra clínica médica ou escritório de advocacia, audit trail não é detalhe técnico. É a prova documental que você apresenta quando o CFM, a OAB ou a ANPD bater na porta.

Como funciona na prática

Toda chamada de IA passa por um gateway centralizado — LiteLLM é o mais comum em infra PME — que intercepta a requisição antes de chegar ao modelo externo (OpenAI, Anthropic, Google) e registra o log estruturado em banco próprio.

O log típico contém: ID da requisição, ID do usuário, timestamp UTC, modelo chamado, tokens de entrada e saída, prompt enviado (ou hash criptográfico quando há dado sensível), resposta recebida e status HTTP. Esse registro vai pra tabela append-only — sem UPDATE, sem DELETE.

A Resolução CFM 2.454/2026 exige explicitamente rastreabilidade de sistemas de IA em medicina: o profissional deve conseguir identificar como o modelo chegou à sugestão e quais dados foram usados. Sem audit trail, o sistema não atende esse requisito.

Por que importa pra clínica médica

Um prontuário eletrônico com IA integrada que não tem audit trail é caixa preta. Se um paciente questionar a decisão clínica, você não tem como provar que o modelo foi consultado corretamente — nem que dado de outro paciente não contaminou a resposta.

Com audit trail funcionando, você responde qualquer fiscalização com log exportável: “Esse paciente foi atendido às 14h32, o modelo recebeu esses campos anônimos, devolveu essa sugestão, o médico aprovou.” Isso é seus dados com você na forma mais prática possível — não só o dado do paciente, mas o registro completo de como a IA foi usada.

Clínicas que usam IA via SaaS terceiro geralmente não têm acesso a esse log. A plataforma tem. Você não.

Erro comum: confiar no log do fornecedor

O erro mais comum é achar que o log da OpenAI ou do Anthropic serve como audit trail. Não serve. Por três motivos:

1. Você não controla a retenção — o fornecedor pode deletar ou agregar logs conforme a política interna
2. Não tem granularidade de usuário — você vê “sua organização fez X chamadas”, não “a recepcionista Maria fez chamada com dado do paciente João”
3. Não está em jurisdição brasileira — apresentar log de servidor americano pra ANPD tem valor probatório limitado

Audit trail real é o que roda no seu servidor, no seu banco, sob sua custódia.

Como aplicar hoje

Três passos pra sair do zero:

1. Coloque um gateway LLM no meio: LiteLLM em container no seu servidor — toda chamada à API externa passa por ali antes de ir pro modelo.
2. Configure logging estruturado: tabela Postgres com append-only, sem permissão de DELETE pra usuário da aplicação.
3. Implemente ID de usuário por chamada: cada chamada carrega o ID interno do profissional que a disparou — isso é o que separa “log técnico” de “audit trail com valor probatório”.

Se quer montar isso em 14 dias — gateway, log imutável, rastreabilidade por usuário, painel de auditoria exportável — é o que a gente entrega no Sprint IA. Quem já tem infra e quer o agente de atendimento com audit trail embutido, iAgentes entrega o pacote pronto.

Termos relacionados

• DPA (Data Processing Agreement) — o contrato que define o que o fornecedor faz com seus dados
• RAG local — arquitetura que mantém documentos sensíveis no seu servidor
• Anonimização antes de LLM — camada que protege dado antes da chamada API
• RLS (Row Level Security) — isolamento de dado por cliente no banco de dados

Fontes

• Resolução CFM 2.454/2026 — IA em Medicina
• LGPD — Lei 13.709/2018 — Art. 46 (medidas de segurança)