Alerta, RAG ou ajuste fino?

Esses métodos mudam coisas diferentes. Escolha com base se o problema diz respeito a instruções, fatos ou comportamento repetido.

Você pode seguir este curso sem conta ou programação. Os exemplos usam dados sintéticos e os resultados da IA ​​precisam ser verificados.

Como funciona, passo a passo

Instruções, conhecimento e adaptação

Um prompt altera instruções e exemplos de solicitação. O RAG altera as evidências disponíveis sem modificar o modelo. O ajuste fino ajusta parâmetros para comportamentos ou tarefas repetidas e precisa de dados e avaliação de qualidade. LoRA/PEFT treina um conjunto de parâmetros menor para uma adaptação eficiente. A destilação transfere o comportamento de um modelo para outro; a quantização reduz a precisão numérica para inferência eficiente, com compensações. Nenhum repara automaticamente fontes erradas. Para regras que mudam frequentemente, a atualização de documentos geralmente é mais fácil de verificar do que a reciclagem.

RAG acessa evidências, não treina novamente

RAG significa geração aumentada de recuperação: a recuperação fornece passagens relevantes antes que o modelo responda. A ingestão prepara documentos, enquanto a execução da consulta pesquisa o índice e cria contexto. Um modelo de incorporação representa o texto numericamente; o modelo de resposta escreve a resposta. Reclassificadores, visão, gráficos e modelos de roteador têm funções diferentes quando necessário. RAG ajuda com informações privadas ou em mudança, mas não garante a verdade. Use uma API autorizada para saldos, inventário exato ou permissões; um documento antigo não é uma fonte confiável para o estado atual.

Defina o sucesso antes de otimizar

Prepare solicitações representativas e respostas ou propriedades esperadas. Inclui casos comuns, ambiguidade, dados faltantes e erros de ferramentas. Para RAG, meça a recuperação de evidências separadamente da correção da resposta. Recall@k mede a parcela de evidências relevantes encontradas nos primeiros k resultados; Precision@k mede a parcela de resultados retornados que são relevantes. Para agentes, rastreie também ações, permissões e paradas. Um LLM como juiz pode acelerar a avaliação, mas precisa de calibração em humanos. Não altere prompt, modelo e índice simultaneamente se quiser entender o que melhorou os resultados.

O esquema explicativo

Siga as setas sólidas para o fluxo principal. As setas azuis tracejadas fornecem dados ou contexto; setas rosa tracejadas mostram feedback ou retorno de resultados. Cores e formas distinguem modelos, lojas, decisões e resultados. Em telas pequenas, role na horizontal para acompanhar o esquema completo.

Um exemplo completo

O tom excessivamente técnico precisa de uma orientação mais clara. Uma nova política precisa de fontes e RAG atualizados. A formatação especializada repetida pode justificar o ajuste fino após a avaliação de opções mais simples.

Experimente você mesmo

1. Escolha uma solução para tom, estoque ao vivo, uma nova política e formatação repetida.
2. Registre a entrada, a fonte e o resultado esperado antes de executar o experimento. Use apenas os dados fictícios do exemplo.
3. Siga as etapas do diagrama. A cada passo registre quais informações são recebidas e produzidas; não confunda o resultado intermediário com o resultado final.
4. Repita após remover as informações necessárias ou tornar a entrada ambígua. Verifique se o sistema esclarece, interrompe ou inventa uma resposta.
5. Compare com a solução explicada. Guarde a configuração, data, resultado e explicação das diferenças. Mude uma coisa e teste novamente.

Uma solução explicada

Utilize prompts para requisitos, RAG para documentos e adaptação apenas com dados e avaliação adequados. Um exercício bem-sucedido permite mostrar a conexão entre entradas, etapas e resultados. Quando falta informação, uma resposta cautelosa é mais útil do que detalhes inventados. Compare mais do que estilo: verifique também as condições, fontes e operações.

Quando esta abordagem ajuda e quais são seus limites

O ajuste fino não é um banco de dados ativo. Escolha esta abordagem quando ela melhorar uma necessidade medida. Mantenha uma linha de base simples e compare os resultados usando dados idênticos. Um exemplo de sucesso não estabelece confiabilidade em todas as situações.

Verifique o que aprendeu

O ajuste fino é a primeira escolha para o estoque atual?

Não. Use uma fonte autorizada ao vivo para obter informações que mudam rapidamente.

O RAG altera os parâmetros do LLM?

Não. Ele fornece contexto de tempo de solicitação; alterações de parâmetros pertencem ao treinamento.

Que resultado este exercício deve produzir?

Utilize prompts para requisitos, RAG para documentos e adaptação apenas com dados e avaliação adequados.

Termos para lembrar

• Afinação: Adaptação de parâmetros do modelo usando exemplos específicos de tarefas.
• Recuperação: Encontrar informações relevantes em fontes acessíveis.
• Regressão / Regressão: uma alteração que quebra um caso anteriormente correto.

Fontes e sua próxima etapa

• Hugging Face — PEFT
• Lewis et al. — Retrieval-Augmented Generation
• LangGraph — Fluxos de trabalho e agentes

Para preparar: P06 — Raciocínio e verificação