RAG local (Retrieval-Augmented Generation local)
RAG local mantém seus documentos no seu servidor — só a pergunta vai pro modelo externo. Essencial pra escritório de advocacia que não abre mão do sigilo.
RAG local (Retrieval-Augmented Generation local) é a arquitetura onde o banco vetorial — o índice dos seus documentos — roda no seu próprio servidor, e só a pergunta vai pro modelo externo. Seus contratos, petições e prontuários nunca saem da sua máquina.
No RAG convencional em SaaS, você indexa seus documentos no servidor de terceiros. Com RAG local, o dado sensível fica em casa. A IA vem de fora (OpenAI, Anthropic, Google), mas o que ela vê é apenas a pergunta + o trecho específico que seu sistema recuperou — nunca o documento inteiro.
Como funciona na prática
Três componentes: banco vetorial local (PostgreSQL + pgvector é o mais comum em PME), embedding (via API ou local) e gateway LLM (LiteLLM centralizando as chamadas).
Fluxo: documento chega → chunking → embedding → vetor salvo local. Na consulta: usuário pergunta → embedding da pergunta → busca semântica no banco → top chunks recuperados → monta prompt → chama API externa.
O que vai pra OpenAI ou Anthropic: a pergunta + os chunks relevantes. Nunca o documento original completo.
Por que importa pro escritório de advocacia
Advogado tem sigilo profissional perene. Peça processual de cliente A não pode vazar — nem pra treinar modelo, nem pra aparecer na resposta de cliente B.
RAG em SaaS coloca seus documentos no servidor de terceiros. Mesmo com DPA assinado, há risco de colisão entre clientes, retenção maior do que o acordado e falta de audit trail rastreável.
Com RAG local, o dado sensível nunca sai do seu ambiente. O modelo é a IA da nuvem — escalável, barata, atualizada. O conhecimento, o índice e o controle são seus. Isso é a Crença #2 na prática: cloud pra escalar, local pra dado sensível.
Erro comum: indexar documentos em SaaS sem perceber
Ferramentas como ChatPDF, Notion AI e assistentes de SaaS que pedem “faça upload do PDF” estão indexando seus documentos nos servidores delas. Sem DPA específico pra seu plano, sem audit trail, sem base contratual pra fiscalização no Brasil.
Você acha que usou IA pra ler o documento — mas o documento agora está no servidor de terceiro.
Como aplicar hoje
- Mapeie o dado sensível: petições, contratos, prontuários → não podem sair do ambiente.
- Monte banco vetorial local: PostgreSQL com pgvector já roda junto com o banco operacional da maioria dos escritórios.
- Centralize chamadas LLM: LiteLLM como gateway — você tem log de tudo que foi enviado pra API externa, com timestamp e usuário.
Se quer ver isso montado em 14 dias — banco vetorial, gateway LLM, permissões por advogado, audit trail funcionando — o Sprint IA é o caminho direto. Quer agente de WhatsApp que já usa sua base de documentos internos com RAG local? iAgentes entrega o pacote com essa infra embaixo.
Termos relacionados
- DPA (Data Processing Agreement) — o contrato que define o que o fornecedor pode fazer com seus dados
- BYOK (Bring Your Own Key) — modelo onde você controla a subscription do LLM
- Audit trail em IA — como rastrear qual usuário consultou qual chunk com qual pergunta