Ações consequentes e aprovação humana

Ler, redigir e executar transações apresentam riscos diferentes.

O que você aprenderá

  • Explique: o modelo propõe, a ferramenta executa
  • Aplique a ideia em um exemplo: Ações consequentes e aprovação humana
  • Reconheça as limitações e verifique o resultado do exercício

Ler, redigir e executar transações apresentam riscos diferentes. Separe uma proposta da execução consequente.

Este é um laboratório conceitual ou externo. Não pressupõe que o aplicativo exponha todos os controles descritos.

Como funciona, passo a passo

O modelo propõe, a ferramenta executa

A chamada da ferramenta produz uma solicitação de chamada com nome e argumentos. A aplicação valida o esquema, as permissões e os limites antes da execução. O resultado retorna ao contexto para a próxima etapa. Por exemplo, get_product_stock pega um SKU e retorna uma quantidade; sua descrição deverá explicar que não reserva produtos. Distinguir resultados vazios, erros de validação, falta de acesso e tempos limite. JSON válido não prova que os argumentos estão corretos ou que a ação está autorizada. Para efeitos externos, considere também a execução duplicada.

Verifique o acesso antes de usar

As permissões devem ser aplicadas pelos servidores e pela camada de dados. Não deixe o modelo decidir se um usuário pode ver um documento. Filtre as fontes antes que elas entrem no contexto, não depois de gerar a resposta. Use credenciais de acesso mínimo, mantenha-as fora de prompts, capturas de tela e códigos do navegador e alterne as chaves expostas. Uma lista de permissões de domínio de widget não substitui a autenticação de API. A autenticação identifica você; a autorização determina as operações e os dados que você pode usar. Teste o acesso negado também.

Erros precisam de caminhos explícitos

Um tempo limite é diferente de um erro de permissão. Tente novamente apenas erros transitórios, com tentativas limitadas e atrasos crescentes. Uma operação com efeitos colaterais pode ser executada antes que sua resposta seja perdida; tentar novamente sem uma chave de idempotência pode duplicar o efeito. O streaming mostra o progresso, mas não garante a conclusão. Os pontos de verificação podem permitir que estágios com falha sejam retomados dentro dos limites de tempo de execução. Armazene o identificador de execução, estágio, duração e erro enquanto remove segredos dos logs. Meça caminhos lentos, bem como médias.

O esquema explicativo

Ações consequentes e aprovação humana Siga as setas sólidas para o fluxo principal. As setas azuis tracejadas fornecem dados ou contexto; setas rosa tracejadas mostram feedback ou retorno de resultados. Cores e formas distinguem modelos, lojas, decisões e resultados. A aprovação humana é um conceito de integração de aplicativos; um pedido de aprovação não é uma aplicação. Conexões: Solicitação do usuário → Agente / LLM; Agente / LLM → Chamada de ferramenta proposta; Chamada de ferramenta proposta → Validar argumentos e permissões; Validar argumentos e permissões → Humano aprova a ação; Humano aprova a ação → Ação externa; Ação externa → Rastreamento de execução; Rastreamento de execução → Resultado a verificar; Permissões de acesso → Validar argumentos e permissões; Limites de etapas e iterações → Validar argumentos e permissões; Humano aprova a ação → Rejeitar ou parar (Negada). S03 · Mapa de relacionamento Ações consequentes e aprovação humana Entrada Solicitação do usuário Decisão/controle Permissões de acesso Decisão/controle Limites de etapas e iterações Modelo/agente de IA Agente / LLM Dadas Chamada de ferramenta proposta Decisão/controle Validar argumentos e permissões Decisão/controle Humano aprova a ação Saída Rejeitar ou parar Ferramenta/serviço Ação externa Armazenar / indexar Rastreamento de execução Saída Resultado a verificar Negada Fluxo principal Dados e contexto Feedback e retorno

Siga as setas sólidas para o fluxo principal. As setas azuis tracejadas fornecem dados ou contexto; setas rosa tracejadas mostram feedback ou retorno de resultados. Cores e formas distinguem modelos, lojas, decisões e resultados. A aprovação humana é um conceito de integração de aplicativos; um pedido de aprovação não é uma aplicação. Em telas pequenas, role na horizontal para acompanhar o esquema completo.

Um exemplo completo

“Você pode cancelar o pedido?” pode começar com leitura e visualização. A execução deverá confirmar identificador, efeito e autorização; uma resposta modelo não é a aprovação do usuário.

Experimente você mesmo

  1. Desenhe um fluxo de cancelamento com visualização, aprovação e proteção contra duplicação.
  2. Registre a entrada, a fonte e o resultado esperado antes de executar o experimento. Use apenas os dados fictícios do exemplo.
  3. Siga as etapas do diagrama. A cada passo registre quais informações são recebidas e produzidas; não confunda o resultado intermediário com o resultado final.
  4. Repita após remover as informações necessárias ou tornar a entrada ambígua. Verifique se o sistema esclarece, interrompe ou inventa uma resposta.
  5. Compare com a solução explicada. Guarde a configuração, data, resultado e explicação das diferenças. Mude uma coisa e teste novamente.

Uma solução explicada

A ação não é executada sem o controle necessário; auditoria separa proposta e execução. Um exercício bem-sucedido permite mostrar a conexão entre entradas, etapas e resultados. Quando falta informação, uma resposta cautelosa é mais útil do que detalhes inventados. Compare mais do que estilo: verifique também as condições, fontes e operações.

Quando esta abordagem ajuda e quais são seus limites

Este é um exemplo arquitetônico; ele não pressupõe um controle de aprovação da UI implementado. Escolha esta abordagem quando ela melhorar uma necessidade medida. Mantenha uma linha de base simples e compare os resultados usando dados idênticos. Um exemplo de sucesso não estabelece confiabilidade em todas as situações.

Verifique o que aprendeu

Quem executa uma chamada proposta pelo modelo?

O aplicativo ou serviço de host após a validação. O modelo não obtém automaticamente acesso irrestrito.

Por que remover uma fonte privada depois de responder tarde demais?

Os dados já entraram no contexto do modelo e podem ser divulgados.

Que resultado este exercício deve produzir?

A ação não é executada sem o controle necessário; auditoria separa proposta e execução.

Termos para lembrar

  • Chamada de ferramenta: uma solicitação estruturada para usar um recurso externo.
  • Autorizar / Autorização: Verificando o direito de acesso a uma operação ou recurso.
  • Idempotência: Repetição controlada sem duplicar um efeito.

Fontes e sua próxima etapa

Para preparar: S02 — Permissões e proteção de dados