Contexto e memória: o que a IA vê?

O contexto é a bancada do modelo.

O que você aprenderá

  • Explique: o contexto é a bancada
  • Aplique a ideia num exemplo: Contexto e memória: o que a IA vê?
  • Reconheça as limitações e verifique o resultado do exercício

O contexto é a bancada do modelo. Memória é o que o aplicativo escolhe reter e trazer de volta para esse ambiente de trabalho.

Você pode seguir este curso sem conta ou programação. Os exemplos usam dados sintéticos e os resultados da IA ​​precisam ser verificados.

Como funciona, passo a passo

O contexto é a bancada

O contexto inclui instruções, a solicitação atual, histórico relevante, documentos recuperados e resultados da ferramenta. A janela de contexto tem capacidade limitada; reserve espaço para a resposta também. Mais texto não melhora automaticamente a precisão. Informações irrelevantes e contradições podem ocultar provas importantes. Resuma o histórico da conversa com cuidado e preserve a origem dos fatos. O estado descreve a execução atual, um ponto de verificação salva um ponto recuperável e a memória persistente retém informações entre as execuções. São diferentes mecanismos gerenciados pelo aplicativo.

Uma instrução é um contrato

Um bom prompt especifica a tarefa, os dados disponíveis, o formato de saída e os critérios de sucesso. Separe a função dos dados e inclua um exemplo para casos ambíguos. “Seja preciso” é mais fraco do que “indique apenas o prazo na apólice fornecida; se faltar, peça esclarecimentos”. Poucas fotos significam alguns exemplos resolvidos, não uma lista interminável. O conteúdo do documento permanece como dados mesmo quando contém comandos. Os delimitadores ajudam, mas o software deve impor permissões e validação em vez de depender do prompt.

Fluência e verdade são verificadas separadamente

Uma alucinação é um conteúdo não suportado ou incorreto apresentado como resposta. Pode surgir de falta de informação, ambiguidade ou padrões combinados incorretamente. Peça provas e verifique o documento original, data, unidades e condições. Uma citação real ainda pode não apoiar a afirmação. Use fontes atuais para fatos atuais, uma calculadora para aritmética e “não é possível determinar” quando faltam evidências. Não trate a confiança expressa em prosa como uma probabilidade calibrada.

O esquema explicativo

Contexto e memória: o que a IA vê? Siga as setas sólidas para o fluxo principal. As setas azuis tracejadas fornecem dados ou contexto; setas rosa tracejadas mostram feedback ou retorno de resultados. Cores e formas distinguem modelos, lojas, decisões e resultados. Conexões: Solicitação do usuário → Instruções e contexto; Instruções e contexto → Janela de contexto limitada; Janela de contexto limitada → Agente / LLM; Agente / LLM → Resposta final; Histórico de conversa relevante → Instruções e contexto; Memória persistente → Instruções e contexto; Estado de execução compartilhado → Agente / LLM; Ponto de verificação de execução → Estado de execução compartilhado. F04 · Mapa de relacionamento Contexto e memória: o que a IA vê? Entrada Solicitação do usuário Armazenar / indexar Histórico de conversa relevante Armazenar / indexar Memória persistente Dadas Instruções e contexto Dadas Janela de contexto limitada Modelo/agente de IA Agente / LLM Armazenar / indexar Ponto de verificação de execução Armazenar / indexar Estado de execução compartilhado Saída Resposta final Fluxo principal Dados e contexto Feedback e retorno

Siga as setas sólidas para o fluxo principal. As setas azuis tracejadas fornecem dados ou contexto; setas rosa tracejadas mostram feedback ou retorno de resultados. Cores e formas distinguem modelos, lojas, decisões e resultados. Em telas pequenas, role na horizontal para acompanhar o esquema completo.

Um exemplo completo

Numa conversa você identifica o produto LX-240. “Qual parte se encaixa?” faz sentido aqui, mas uma nova conversa não possui o identificador. Retomar um ponto de verificação é diferente de recuperar uma preferência persistente.

Experimente você mesmo

  1. Compare uma pergunta em duas conversas e registre o contexto disponível.
  2. Registre a entrada, a fonte e o resultado esperado antes de executar o experimento. Use apenas os dados fictícios do exemplo.
  3. Siga as etapas do diagrama. A cada passo registre quais informações são recebidas e produzidas; não confunda o resultado intermediário com o resultado final.
  4. Repita após remover as informações necessárias ou tornar a entrada ambígua. Verifique se o sistema esclarece, interrompe ou inventa uma resposta.
  5. Compare com a solução explicada. Guarde a configuração, data, resultado e explicação das diferenças. Mude uma coisa e teste novamente.

Uma solução explicada

Na nova conversa, pergunte o modelo do produto. Não presuma que o aplicativo retém preferências nas conversas. Um exercício bem-sucedido permite mostrar a conexão entre entradas, etapas e resultados. Quando falta informação, uma resposta cautelosa é mais útil do que detalhes inventados. Compare mais do que estilo: verifique também as condições, fontes e operações.

Quando esta abordagem ajuda e quais são seus limites

A longa história pode conter fatos expirados. Escolha esta abordagem quando ela melhorar uma necessidade medida. Mantenha uma linha de base simples e compare os resultados usando dados idênticos. Um exemplo de sucesso não estabelece confiabilidade em todas as situações.

Verifique o que aprendeu

Um ponto de verificação é uma memória de usuário permanente?

Não. Salvar uma corrida não implica manter preferências entre conversas.

Um prompt pode substituir o controle de acesso?

Não. Uma instrução não é um limite de autorização.

Que resultado este exercício deve produzir?

Na nova conversa, pergunte o modelo do produto. Não presuma que o aplicativo retém preferências nas conversas.

Termos para lembrar

  • Ponto de verificação: estado salvo usado para retomar uma execução.
  • Poucos tiros: Exemplos resolvidos fornecidos no contexto.
  • Aterramento: Fundamentar uma resposta em evidências verificáveis.

Fontes e sua próxima etapa

Para preparar: F03 — O que é um LLM e como ele responde?