IA

Como construir uma arquitetura RAG corporativa

RAG é simples de demonstrar e difícil de operar. Este guia percorre os componentes de uma arquitetura de geração aumentada por recuperação em produção e as decisões que separam um sistema confiável de um chatbot que alucina com educação.

Publicado em 11 min de leiturapor Carlos Medger
Principais pontos
  • A qualidade do RAG é decidida na ingestão e na recuperação, muito antes de o modelo escrever uma resposta.
  • Recuperação com controle de acesso é inegociável na empresa: indexe as permissões junto com o conteúdo e filtre na consulta.
  • Recuperação híbrida (vetorial mais palavra-chave) com reranking supera a busca vetorial pura em documentos corporativos reais.
  • Construa um conjunto de avaliação antes de ajustar qualquer coisa, e rode-o a cada mudança de chunking, embeddings ou prompts.

O que o RAG faz e o que não faz

A geração aumentada por recuperação permite que um modelo de linguagem responda perguntas usando documentos com os quais nunca foi treinado. No momento da consulta, o sistema recupera trechos relevantes de um corpus, coloca-os no prompt e pede ao modelo que responda com base nesse contexto. O modelo fornece linguagem e raciocínio; o corpus fornece fatos.

RAG não faz o modelo conhecer o seu negócio. Faz o modelo ler as páginas certas na hora certa. Se a recuperação retornar as páginas erradas, a resposta será fluente e errada. Por isso a maior parte do esforço de engenharia vai para tudo que acontece antes da chamada ao modelo.

Os componentes de um sistema RAG em produção

Ingestão e preparação de documentos

Conectores puxam conteúdo de SharePoint, servidores de arquivos, wikis, sistemas de chamados, ERPs e bancos de dados. Cada documento é normalizado, limpo de textos padrão, dividido em chunks e enriquecido com metadados: origem, dono, data, classificação e as permissões que se aplicam. A ingestão roda continuamente, não uma vez, porque o corpus muda todo dia.

Chunking

O tamanho e as fronteiras dos chunks moldam a qualidade da recuperação. Chunks que respeitam a estrutura do documento (seções, tabelas, títulos) superam janelas de tamanho fixo. Mantenha-os pequenos o suficiente para serem específicos e grandes o suficiente para carregar contexto, e guarde a seção pai para que o modelo receba mais texto ao redor quando necessário.

Embeddings e índices

Cada chunk é transformado em vetor e armazenado em um índice vetorial (pgvector, Azure AI Search, Pinecone, Chroma, ou as capacidades vetoriais de Databricks e Fabric). Mantenha um índice de palavras-chave ao lado. Escolha o modelo de embeddings com o seu conjunto de avaliação e planeje o reprocessamento quando o modelo mudar.

Recuperação e reranking

Na consulta, combine similaridade vetorial com busca por palavras-chave (recuperação híbrida), filtre por metadados e permissões e reordene os candidatos com um cross-encoder ou um reranker baseado em LLM. Retorne poucos trechos de alta precisão em vez de uma lista longa de conteúdo vagamente relacionado.

Geração e citações

O prompt instrui o modelo a responder apenas com o contexto recuperado, citar as fontes e dizer quando o contexto é insuficiente. Citações não são enfeite: são o que permite a usuários e auditores verificar as respostas.

Avaliação e observabilidade

Um conjunto de perguntas com fontes e respostas esperadas, construído com usuários de negócio, é executado a cada mudança. Acompanhe precisão da recuperação, fidelidade da resposta e latência. Em produção, registre consultas, trechos recuperados e feedback para que o corpus e o pipeline possam melhorar.

Controle de acesso: a diferença corporativa

Uma demo indexa uma pasta que todos podem ler. Um corpus corporativo contém políticas de RH, contratos, relatórios de incidentes e material de diretoria com permissões muito diferentes. A regra é simples: o sistema nunca pode exibir um trecho para um usuário que não poderia abrir o documento de origem.

Implemente isso armazenando permissões como metadados na ingestão, resolvendo a identidade do usuário na consulta e filtrando os candidatos antes de chegarem ao modelo. Não confie no prompt para impor segurança. Ressincronize permissões periodicamente, porque acessos mudam.

Integração com sistemas corporativos

RAG sobre documentos responde perguntas. Combinado com APIs de sistema, também age: consulta o pedido, verifica o status do contrato, abre o chamado. É aqui que o RAG encontra os agentes, e onde a camada de integração empresarial passa a fazer parte da arquitetura de IA. Exponha as capacidades de que os agentes precisam por APIs gerenciadas, com autenticação, limites e auditoria, e exija aprovação humana para ações de consequência.

Modos de falha comuns

  • Indexar tudo: um corpus sem curadoria, cheio de rascunhos e duplicatas, degrada a recuperação. Selecione fontes e versões.
  • Sem conjunto de avaliação: ajuste por anedota. Construa o conjunto de testes primeiro.
  • Busca vetorial pura: perde identificadores exatos, códigos de produto e nomes. Use recuperação híbrida.
  • Índice desatualizado: os documentos mudam, os embeddings não. Rode a ingestão continuamente.
  • Segurança no prompt: instruções não são controle de acesso. Filtre na recuperação.
  • Sem modelo de custo: contextos longos e muitas chamadas se acumulam. Faça cache, limite e meça por caso de uso.

Uma stack de referência

Uma stack corporativa típica que desenhamos: conectores e pipelines na plataforma de dados (Microsoft Fabric ou Databricks), chunks e embeddings em pgvector ou Azure AI Search com índice de palavras-chave, orquestração em LangGraph com ferramentas MCP para acesso a sistemas, modelos por um gateway em Azure OpenAI ou AWS Bedrock, avaliação automatizada no CI e observabilidade na mesma stack de monitoramento do resto da plataforma.

Os produtos específicos importam menos do que as camadas. Mantenha recuperação, orquestração e modelos separáveis para que cada um possa melhorar ou ser substituído sem reconstruir os outros.

Perguntas frequentes

Precisamos de fine-tuning se usamos RAG?

Normalmente não. O RAG resolve o problema de conhecimento; o fine-tuning muda estilo ou formato. A maioria dos assistentes corporativos atinge a qualidade-alvo só com boa recuperação e bons prompts.

Qual banco vetorial devemos usar?

Use o que cabe na sua plataforma. O pgvector no PostgreSQL basta para muitos corpora; Azure AI Search, Pinecone ou os recursos vetoriais de Databricks e Fabric atendem ambientes maiores ou mais integrados. Decida com o seu conjunto de avaliação e com o seu time de operações.

Como medimos se o RAG está funcionando?

Precisão da recuperação em um conjunto rotulado de perguntas, fidelidade da resposta ao contexto recuperado, feedback dos usuários em produção e a taxa de perguntas que o sistema corretamente se recusa a responder.

Insights

Continue lendo

Ver todos os insights
IA9 min de leitura

O que é arquitetura de IA corporativa?

A diferença entre um piloto bem-sucedido e uma capacidade de IA em produção raramente é o modelo. É a arquitetura ao redor dele. Veja o que essa arquitetura contém e quais decisões importam.

IA8 min de leitura

Agentes de IA vs automação tradicional: quando usar cada um

Agentes não substituem todo motor de workflow e robô de RPA. São uma nova ferramenta para uma classe específica de trabalho. Saber qual classe é a diferença entre uma operação confiável e um experimento caro.

Quer aplicar isso na sua arquitetura?

Fale com um arquiteto sobre os seus sistemas, os seus dados e o que seria necessário para executar.