Para responder perguntas sobre documentos da empresa que mudam e precisam de fontes, comece avaliando RAG. Para adaptar o comportamento do modelo a uma tarefa, considere fine tuning. Os métodos podem trabalhar juntos: a busca fornece o conteúdo e o modelo ajustado aprende a responder no padrão esperado.
Essa distinção ajuda a evitar um projeto caro para resolver o problema errado. Consultar a política vigente e aprender um formato de resposta são necessidades diferentes.
O que muda entre RAG e fine tuning
RAG significa geração aumentada por recuperação. A aplicação busca conteúdo relevante em uma base e envia os trechos encontrados ao modelo junto com a pergunta. O paper original de RAG, de Patrick Lewis e outros autores, combina um modelo gerador com uma memória externa consultável.
Em aplicações empresariais, isso permite trabalhar com documentos sem precisar incorporar cada atualização aos parâmetros do gerador. Ainda é necessário atualizar a base consultada e verificar se a busca encontra a versão correta.
Fine tuning é a continuação do treinamento de um modelo existente com dados de uma tarefa ou domínio. A documentação de treinamento do Transformers, da Hugging Face, explica esse processo. Ele pode adaptar o modelo, mas não cria, por si só, uma busca documental com referências verificáveis.
Uma orientação prática aparece na documentação do Microsoft Foundry: usar RAG para dados privados ou sujeitos a mudanças e fine tuning para comportamento, estilo ou desempenho em tarefas. É uma orientação desse ambiente, não uma garantia sobre qualquer implementação.
Comparação para escolher a arquitetura
| Critério | RAG | Fine tuning |
|---|---|---|
| Mecanismo | Recupera conteúdo durante a consulta. | Ajusta parâmetros por treinamento. |
| Uso a avaliar | Perguntas sobre documentos e regras vigentes. | Adaptação a tarefas e padrões de resposta. |
| Atualização | Exige atualizar e validar a base de busca. | Novos ajustes exigem treinamento e avaliação. |
| Fontes | Pode vincular respostas aos trechos recuperados. | Não fornece rastreabilidade documental por si só. |
| Trabalho recorrente | Manter conteúdo, recuperação e permissões. | Manter exemplos, versões e testes do modelo. |
Exemplo hipotético: políticas e procedimentos internos
Imagine uma empresa com políticas de viagens, compras e segurança. Uma pessoa pergunta: “Posso reservar hotel antes da aprovação da viagem?” O objetivo é consultar a regra válida para aquela pessoa, não produzir uma resposta plausível sobre viagens corporativas.
Como desenho para esse caso, a equipe selecionaria documentos aprovados, identificaria responsáveis e registraria vigência, área e permissões. Cada trecho manteria sua ligação com o arquivo original. A busca recuperaria a regra de aprovação e eventuais exceções, preservando o contexto necessário para interpretá-las.
O guia de arquitetura RAG da Microsoft descreve uma implementação com divisão em trechos, metadados, indexação e envio dos resultados ao modelo. Nesse exemplo, convém preservar a relação entre a regra e sua exceção, em vez de separá-las mecanicamente.
Se a empresa publicar uma nova política, o processo precisará atualizar a base e impedir que a versão antiga seja tratada como vigente. Se não houver orientação suficiente, a resposta esperada será reconhecer a lacuna e indicar o responsável pelo procedimento.
Suponha agora que o conteúdo seja encontrado corretamente, mas as respostas ignorem um padrão interno de apresentação. Antes de treinar, teste instruções e exemplos no prompt. Se a falha persistir, um ajuste supervisionado com exemplos aprovados pode ser avaliado. A política continuaria vindo da busca.
Os limites que precisam entrar no projeto
RAG não elimina alucinações. A documentação do Foundry reconhece que o modelo ainda pode responder incorretamente mesmo recebendo conteúdo recuperado. A busca também pode trazer passagens incompletas ou irrelevantes. Uma referência na tela não prova que a conclusão corresponde ao documento.
Fine tuning também exige cuidado. O modelo aprende com os exemplos utilizados, e o resultado precisa ser testado em dados separados. A própria documentação do Transformers demonstra essa separação entre treinamento e avaliação. Para este projeto, não trate o treinamento como substituto de uma base documental atualizada.
Evite escolher pela promessa de menor custo. Em RAG, contabilize preparação dos arquivos, consultas, contexto enviado e manutenção. Em fine tuning, inclua preparação dos dados, treinamento e testes. Compare o esforço completo no cenário da empresa.
Permissões e destino dos dados
A arquitetura deve restringir o conteúdo antes de enviá-lo ao modelo. Pedir ao assistente que “não revele informações” não substitui autorização na recuperação. No Azure AI Search, a documentação de controle de acesso por documento descreve filtros e outras abordagens específicas do serviço.
Para o projeto, teste também revogações de acesso e mudanças de grupo. Preserve as restrições nos trechos derivados, ponto abordado no guia de preparação de uma solução RAG da Microsoft.
Não presuma que usar RAG ou fine tuning mantém todos os dados dentro da empresa. Antes da implantação, mapeie onde ocorrem armazenamento, processamento, treinamento e registro das consultas. Confira retenção e condições de uso de cada serviço contratado.
Avalie com perguntas que a equipe realmente faz
Reúna dúvidas reais, com informações sensíveis removidas quando necessário. Para cada pergunta, registre a resposta esperada, o documento válido e o perfil autorizado. Inclua casos sem resposta, regras conflitantes e alterações recentes.
- “Posso reservar antes da aprovação?” testa regra e exceção.
- “Qual política vale para minha unidade?” testa contexto.
- “O procedimento mudou?” testa atualização.
- Uma consulta a conteúdo restrito testa o bloqueio.
Avalie separadamente se a busca encontrou a evidência e se a resposta respeitou essa evidência. Registre também recusas corretas, tempo de resposta e custo observado. Se falta conteúdo, corrija a base. Se o comportamento continua inadequado com evidência correta, avalie fine tuning com o mesmo conjunto de testes.
