Engenharia de contexto: o que chega ao modelo?

A engenharia de contexto seleciona o que o modelo vê. O objetivo é a relevância, não preencher a janela de contexto.

Você pode seguir este curso sem conta ou programação. Os exemplos usam dados sintéticos e os resultados da IA ​​precisam ser verificados.

Como funciona, passo a passo

O contexto é a bancada

O contexto inclui instruções, a solicitação atual, histórico relevante, documentos recuperados e resultados da ferramenta. A janela de contexto tem capacidade limitada; reserve espaço para a resposta também. Mais texto não melhora automaticamente a precisão. Informações irrelevantes e contradições podem ocultar provas importantes. Resuma o histórico da conversa com cuidado e preserve a origem dos fatos. O estado descreve a execução atual, um ponto de verificação salva um ponto recuperável e a memória persistente retém informações entre as execuções. São diferentes mecanismos gerenciados pelo aplicativo.

RAG acessa evidências, não treina novamente

RAG significa geração aumentada de recuperação: a recuperação fornece passagens relevantes antes que o modelo responda. A ingestão prepara documentos, enquanto a execução da consulta pesquisa o índice e cria contexto. Um modelo de incorporação representa o texto numericamente; o modelo de resposta escreve a resposta. Reclassificadores, visão, gráficos e modelos de roteador têm funções diferentes quando necessário. RAG ajuda com informações privadas ou em mudança, mas não garante a verdade. Use uma API autorizada para saldos, inventário exato ou permissões; um documento antigo não é uma fonte confiável para o estado atual.

Verifique o acesso antes de usar

As permissões devem ser aplicadas pelos servidores e pela camada de dados. Não deixe o modelo decidir se um usuário pode ver um documento. Filtre as fontes antes que elas entrem no contexto, não depois de gerar a resposta. Use credenciais de acesso mínimo, mantenha-as fora de prompts, capturas de tela e códigos do navegador e alterne as chaves expostas. Uma lista de permissões de domínio de widget não substitui a autenticação de API. A autenticação identifica você; a autorização determina as operações e os dados que você pode usar. Teste o acesso negado também.

O esquema explicativo

Siga as setas sólidas para o fluxo principal. As setas azuis tracejadas fornecem dados ou contexto; setas rosa tracejadas mostram feedback ou retorno de resultados. Cores e formas distinguem modelos, lojas, decisões e resultados. Em telas pequenas, role na horizontal para acompanhar o esquema completo.

Um exemplo completo

Para uma pergunta de retorno, mantenha a política e o produto atuais, e não dez páginas de discussão colorida. Se duas políticas entrarem em conflito, marque as versões em vez de misturá-las.

Experimente você mesmo

1. Reduza dez parágrafos de contexto ao que a pergunta exige.
2. Registre a entrada, a fonte e o resultado esperado antes de executar o experimento. Use apenas os dados fictícios do exemplo.
3. Siga as etapas do diagrama. A cada passo registre quais informações são recebidas e produzidas; não confunda o resultado intermediário com o resultado final.
4. Repita após remover as informações necessárias ou tornar a entrada ambígua. Verifique se o sistema esclarece, interrompe ou inventa uma resposta.
5. Compare com a solução explicada. Guarde a configuração, data, resultado e explicação das diferenças. Mude uma coisa e teste novamente.

Uma solução explicada

O modelo recebe instruções, perguntas e evidências relevantes com fonte e versão retidas. Um exercício bem-sucedido permite mostrar a conexão entre entradas, etapas e resultados. Quando falta informação, uma resposta cautelosa é mais útil do que detalhes inventados. Compare mais do que estilo: verifique também as condições, fontes e operações.

Quando esta abordagem ajuda e quais são seus limites

A sumarização pode perder condições; verifique o que foi removido. Escolha esta abordagem quando ela melhorar uma necessidade medida. Mantenha uma linha de base simples e compare os resultados usando dados idênticos. Um exemplo de sucesso não estabelece confiabilidade em todas as situações.

Verifique o que aprendeu

Um ponto de verificação é uma memória de usuário permanente?

Não. Salvar uma corrida não implica manter preferências entre conversas.

O RAG altera os parâmetros do LLM?

Não. Ele fornece contexto de tempo de solicitação; alterações de parâmetros pertencem ao treinamento.

Que resultado este exercício deve produzir?

O modelo recebe instruções, perguntas e evidências relevantes com fonte e versão retidas.

Termos para lembrar

• Ponto de verificação: estado salvo usado para retomar uma execução.
• Recuperação: Encontrar informações relevantes em fontes acessíveis.
• Autorizar / Autorização: Verificando o direito de acesso a uma operação ou recurso.

Fontes e sua próxima etapa

• LangGraph — Fluxos de trabalho e agentes
• Lewis et al. — Retrieval-Augmented Generation
• OWASP — Injeção de prompt

Para preparar: P01 — Engenharia ágil sem fórmulas mágicas