Chunking e metadados

A fragmentação determina quanto contexto é recuperado em uma passagem. Os metadados nos dizem de onde vieram e se são atuais.

Este é um laboratório conceitual ou externo. Não pressupõe que o aplicativo exponha todos os controles descritos.

Como funciona, passo a passo

Bons documentos vêm antes de boas respostas

Prepare texto legível, títulos claros, tabelas com cabeçalhos e fontes sem duplicatas desnecessárias. A fragmentação divide um documento em passagens recuperáveis ​​separadamente; a sobreposição preserva a continuidade entre vizinhos. Um pedaço pequeno pode perder condições, enquanto um pedaço grande introduz ruído. Os metadados preservam a origem, a posição e a versão, além do escopo de acesso quando aplicado pela implementação. Upload armazena o arquivo; a indexação o torna pesquisável. Quando uma fonte muda, verifique se os pedaços antigos desaparecem e os novos são recuperados antes de declarar a base de conhecimento atual.

Coordenadas para significado

Uma incorporação é um vetor numérico calculado por um modelo. Textos com significados relacionados tendem a ficar próximos uns dos outros no espaço desse modelo, mas a similaridade não garante relevância. Consultas e documentos devem compartilhar um espaço compatível: modelo e dimensões correspondentes. Um mapa de dois eixos é ilustrativo; vetores reais podem ter centenas ou milhares de dimensões. Recrie e teste novamente o índice ao alterar o modelo ou as dimensões. A similaridade de cossenos compara as direções dos vetores; não é a probabilidade de uma resposta ser verdadeira.

Defina o sucesso antes de otimizar

Prepare solicitações representativas e respostas ou propriedades esperadas. Inclui casos comuns, ambiguidade, dados faltantes e erros de ferramentas. Para RAG, meça a recuperação de evidências separadamente da correção da resposta. Recall@k mede a parcela de evidências relevantes encontradas nos primeiros k resultados; Precision@k mede a parcela de resultados retornados que são relevantes. Para agentes, rastreie também ações, permissões e paradas. Um LLM como juiz pode acelerar a avaliação, mas precisa de calibração em humanos. Não altere prompt, modelo e índice simultaneamente se quiser entender o que melhorou os resultados.

O esquema explicativo

Siga as setas sólidas para o fluxo principal. As setas azuis tracejadas fornecem dados ou contexto; setas rosa tracejadas mostram feedback ou retorno de resultados. Cores e formas distinguem modelos, lojas, decisões e resultados. Em telas pequenas, role na horizontal para acompanhar o esquema completo.

Um exemplo completo

Separar “14 dias” de “apenas não utilizado” perde a condição. Mantenha regras e exceções juntas; reter cabeçalhos de tabela em representações extraídas.

Experimente você mesmo

1. Divida a política em dois sentidos e compare as informações perdidas nas fronteiras.
2. Registre a entrada, a fonte e o resultado esperado antes de executar o experimento. Use apenas os dados fictícios do exemplo.
3. Siga as etapas do diagrama. A cada passo registre quais informações são recebidas e produzidas; não confunda o resultado intermediário com o resultado final.
4. Repita após remover as informações necessárias ou tornar a entrada ambígua. Verifique se o sistema esclarece, interrompe ou inventa uma resposta.
5. Compare com a solução explicada. Guarde a configuração, data, resultado e explicação das diferenças. Mude uma coisa e teste novamente.

Uma solução explicada

A passagem relevante preserva o prazo e a condição, além do identificador da fonte. Um exercício bem-sucedido permite mostrar a conexão entre entradas, etapas e resultados. Quando falta informação, uma resposta cautelosa é mais útil do que detalhes inventados. Compare mais do que estilo: verifique também as condições, fontes e operações.

Quando esta abordagem ajuda e quais são seus limites

Não presuma que existe um controle de UI de tamanho fragmentado, a menos que seja exposto. Escolha esta abordagem quando ela melhorar uma necessidade medida. Mantenha uma linha de base simples e compare os resultados usando dados idênticos. Um exemplo de sucesso não estabelece confiabilidade em todas as situações.

Verifique o que aprendeu

O upload concluído significa que um documento está pronto para RAG?

Não. A extração, fragmentação e indexação também devem ser concluídas com êxito.

Você pode comparar diretamente vetores de diferentes modelos?

Geralmente não; seus espaços não são automaticamente compatíveis.

Que resultado este exercício deve produzir?

A passagem relevante preserva o prazo e a condição, além do identificador da fonte.

Termos para lembrar

• Pedaço: uma passagem de documento que pode ser recuperada separadamente.
• Incorporação: uma representação numérica usada para comparar conteúdo.
• Regressão / Regressão: uma alteração que quebra um caso anteriormente correto.

Fontes e sua próxima etapa

• Lewis et al. — Retrieval-Augmented Generation
• LangGraph — Fluxos de trabalho e agentes

Para preparar: D02 — Upload, indexação rápida e indexação em lote