Autonomia limitada e intervenção humana
Um agente útil não necessita de direitos ilimitados.
O que você aprenderá
- Explique: um loop de agente limitado
- Aplique a ideia em um exemplo: Autonomia limitada e intervenção humana
- Reconheça as limitações e verifique o resultado do exercício
Um agente útil não necessita de direitos ilimitados. Permita a leitura e a elaboração, mantendo o controle sobre as ações consequentes.
Este é um laboratório conceitual ou externo. Não pressupõe que o aplicativo exponha todos os controles descritos.
Como funciona, passo a passo
Um loop de agente limitado
Um agente combina um modelo com ferramentas, um objetivo e um estado. Ele observa a solicitação, escolhe uma etapa, recebe o resultado e decide se continua. Um chatbot só pode gerar texto; um agente pode solicitar uma ação externa. As definições comerciais variam, portanto inspecione o controle real. Defina sucesso e parada: um resultado verificado, uma contagem máxima de passos, erros repetidos ou um orçamento esgotado. Use recursos restritos e permissões mínimas. Autonomia útil significa liberdade dentro dos limites impostos pelo software.
Verifique o acesso antes de usar
As permissões devem ser aplicadas pelos servidores e pela camada de dados. Não deixe o modelo decidir se um usuário pode ver um documento. Filtre as fontes antes que elas entrem no contexto, não depois de gerar a resposta. Use credenciais de acesso mínimo, mantenha-as fora de prompts, capturas de tela e códigos do navegador e alterne as chaves expostas. Uma lista de permissões de domínio de widget não substitui a autenticação de API. A autenticação identifica você; a autorização determina as operações e os dados que você pode usar. Teste o acesso negado também.
Erros precisam de caminhos explícitos
Um tempo limite é diferente de um erro de permissão. Tente novamente apenas erros transitórios, com tentativas limitadas e atrasos crescentes. Uma operação com efeitos colaterais pode ser executada antes que sua resposta seja perdida; tentar novamente sem uma chave de idempotência pode duplicar o efeito. O streaming mostra o progresso, mas não garante a conclusão. Os pontos de verificação podem permitir que estágios com falha sejam retomados dentro dos limites de tempo de execução. Armazene o identificador de execução, estágio, duração e erro enquanto remove segredos dos logs. Meça caminhos lentos, bem como médias.
O esquema explicativo
Siga as setas sólidas para o fluxo principal. As setas azuis tracejadas fornecem dados ou contexto; setas rosa tracejadas mostram feedback ou retorno de resultados. Cores e formas distinguem modelos, lojas, decisões e resultados. A aprovação humana é um controle de integração conceitual, não uma consequência incorporada de solicitar aprovação imediatamente. Em telas pequenas, role na horizontal para acompanhar o esquema completo.
Um exemplo completo
O agente propõe a devolução após verificação da política. Sua proposta inclui ordem, razão e condições. Um reembolso é uma operação separada que requer autorização e verificação.
Experimente você mesmo
- Classifique as operações em leitura, elaboração, alteração reversível e efeito irreversível.
- Registre a entrada, a fonte e o resultado esperado antes de executar o experimento. Use apenas os dados fictícios do exemplo.
- Siga as etapas do diagrama. A cada passo registre quais informações são recebidas e produzidas; não confunda o resultado intermediário com o resultado final.
- Repita após remover as informações necessárias ou tornar a entrada ambígua. Verifique se o sistema esclarece, interrompe ou inventa uma resposta.
- Compare com a solução explicada. Guarde a configuração, data, resultado e explicação das diferenças. Mude uma coisa e teste novamente.
Uma solução explicada
Você obtém uma proposta verificável sem transações automáticas ou memória persistente presumida. Um exercício bem-sucedido permite mostrar a conexão entre entradas, etapas e resultados. Quando falta informação, uma resposta cautelosa é mais útil do que detalhes inventados. Compare mais do que estilo: verifique também as condições, fontes e operações.
Quando esta abordagem ajuda e quais são seus limites
Um controle de aprovação conceitual não estabelece sua presença na UI. Escolha esta abordagem quando ela melhorar uma necessidade medida. Mantenha uma linha de base simples e compare os resultados usando dados idênticos. Um exemplo de sucesso não estabelece confiabilidade em todas as situações.
Verifique o que aprendeu
Mais autonomia sempre dá um resultado melhor?
Não. Também aumenta a margem para erros, custos e ações desnecessárias.
Por que remover uma fonte privada depois de responder tarde demais?
Os dados já entraram no contexto do modelo e podem ser divulgados.
Que resultado este exercício deve produzir?
Você obtém uma proposta verificável sem transações automáticas ou memória persistente presumida.
Termos para lembrar
- Agente: Um sistema que pode escolher etapas e usar ferramentas para atingir um objetivo.
- Autorizar / Autorização: Verificando o direito de acesso a uma operação ou recurso.
- Idempotência: Repetição controlada sem duplicar um efeito.
Fontes e sua próxima etapa
Para preparar: A05 — Pesquisa na web e execução de código