Sistemas RAG e chatbots corporativos
RAG — Retrieval-Augmented Generation — é a técnica que faz um modelo de linguagem responder sobre o que é seu: seus manuais, seus contratos, seu histórico de atendimento, sua base de produtos. Em vez de confiar no que o modelo aprendeu na internet, o sistema busca no seu material e responde a partir dele.
Feito bem, é a diferença entre um assistente que cita a fonte e um que dá palpite convincente. Feito mal, é um gerador de resposta errada com aparência de certeza.
Quando faz sentido
Conhecimento espalhado em documento
Manual, norma interna, contrato, procedimento. Informação que existe, mas ninguém acha na hora que precisa.
Atendimento que consulta a mesma base
Time respondendo perguntas cuja resposta está sempre no mesmo lugar — e cada pessoa nova demora meses para saber onde.
Catálogo grande demais para decorar
Milhares de produtos, códigos ou especificações consultados o dia inteiro.
Onboarding lento
Gente nova que leva semanas para achar o que precisa dentro da empresa.
Como fazemos
- 01
Preparamos a base antes de indexar
É a etapa que decide o resultado e a que quase todo mundo pula. Documento mal fatiado gera resposta ruim, por melhor que seja o modelo depois. Cortamos por unidade de sentido, não por número de caracteres.
- 02
Indexamos com metadado
Cada trecho carrega origem, data e permissão. Isso permite filtrar por quem pode ver o quê e citar a fonte na resposta.
- 03
Construímos a busca híbrida
Busca semântica sozinha erra em código, número e nome próprio. Combinamos com busca literal, que é justamente onde a semântica falha.
- 04
Amarramos a resposta à fonte
O sistema responde citando de onde tirou. Quando não encontra base suficiente, diz que não encontrou — em vez de preencher a lacuna com invenção.
O que você recebe
- Sistema RAG em produção sobre a sua base
- Resposta com citação da fonte
- Controle de permissão por documento
- Interface no WhatsApp, widget no site ou ambos
- Processo de atualização quando a base mudar
Onde já aplicamos
O Toreply.me coloca uma camada de conversa sobre qualquer sistema legado: a empresa cadastra as APIs que já tem e passa a consultar os próprios dados por WhatsApp ou por um widget no site, com a resposta vindo do sistema de verdade — não de um resumo desatualizado.
Dúvidas sobre RAG e chatbots
Meus documentos vão para dentro do modelo?
Não. Em RAG o conteúdo fica na sua base e é consultado a cada pergunta; ele não é usado para treinar modelo nenhum. Quando o dado é sensível, o sistema pode rodar inteiro na sua infraestrutura, com modelo hospedado por você.
RAG ou fine-tuning: qual escolher?
RAG serve para conhecimento que muda — preço, procedimento, catálogo, norma. Fine-tuning serve para ensinar formato e estilo de resposta, não fato. Na prática, quase todo caso empresarial que nos chega pedindo fine-tuning é resolvido melhor com RAG, porque o problema é acesso a informação atualizada, não comportamento do modelo.
E quando o sistema não sabe a resposta?
Ele precisa dizer que não sabe, e isso é decisão de projeto. Configuramos um limite mínimo de relevância: abaixo dele o sistema responde que não encontrou base suficiente e, se você quiser, encaminha para uma pessoa. Assistente que nunca admite ignorância é assistente em que ninguém confia depois do terceiro erro.