Acciones consecuentes y aprobación humana.

Leer, redactar y ejecutar transacciones tiene diferentes riesgos.

lo que aprenderás

  • Explique: el modelo propone, la herramienta ejecuta
  • Aplica la idea en un ejemplo: Acciones consecuentes y aprobación humana.
  • Reconocer las limitaciones y verificar el resultado del ejercicio.

Leer, redactar y ejecutar transacciones tiene diferentes riesgos. Separar una propuesta de la ejecución consecuente.

Este es un laboratorio conceptual o externo. No asume que la aplicación expone todos los controles descritos.

Cómo funciona, paso a paso

El modelo propone, la herramienta ejecuta

La llamada a herramientas produce una solicitud de llamada con un nombre y argumentos. La aplicación valida el esquema, permisos y límites antes de la ejecución. El resultado vuelve al contexto para el siguiente paso. Por ejemplo, get_product_stock toma un SKU y devuelve una cantidad; su descripción debe explicar que no reserva productos. Distinga resultados vacíos, errores de validación, accesos faltantes y tiempos de espera. Un JSON válido no prueba que los argumentos sean correctos ni que la acción esté autorizada. Para efectos externos, considere también la ejecución duplicada.

Comprobar el acceso antes de su uso.

Los servidores y la capa de datos deben hacer cumplir los permisos. No permita que el modelo decida si un usuario puede ver un documento. Filtre las fuentes antes de que entren en contexto, no después de generar la respuesta. Utilice credenciales de acceso mínimo, manténgalas alejadas de mensajes, capturas de pantalla y códigos del navegador, y rote las claves expuestas. Una lista de dominios permitidos de widget no reemplaza la autenticación API. La autenticación le identifica; La autorización determina las operaciones y los datos que puede utilizar. Pruebe también el acceso denegado.

Los errores necesitan rutas explícitas

Un tiempo de espera difiere de un error de permiso. Reintente solo errores transitorios, con intentos limitados y retrasos crecientes. Una operación con efectos secundarios puede ejecutarse antes de que se pierda su respuesta; volver a intentarlo sin una clave de idempotencia puede duplicar el efecto. La transmisión muestra el progreso pero no garantiza su finalización. Los puntos de control pueden permitir que las etapas fallidas se reanuden dentro de los límites de tiempo de ejecución. Almacene el identificador de ejecución, la etapa, la duración y el error mientras elimina los secretos de los registros. Mida trayectorias lentas y promedios.

El esquema explicativo

Acciones consecuentes y aprobación humana. Siga las flechas sólidas para el flujo principal. Las flechas azules discontinuas proporcionan datos o contexto; Las flechas discontinuas de color rosa muestran comentarios o resultados devueltos. Colores y formas distinguen modelos, tiendas, decisiones y resultados. La aprobación humana es un concepto de integración de aplicaciones; una solicitud de aprobación no es aplicación de la ley. Conexiones: Solicitud de usuario → Agente / LLM; Agente / LLM → Convocatoria de herramienta propuesta; Convocatoria de herramienta propuesta → Validar argumentos y permisos.; Validar argumentos y permisos. → El humano aprueba la acción.; El humano aprueba la acción. → Acción exterior; Acción exterior → Seguimiento de ejecución; Seguimiento de ejecución → Resultado a verificar; Permisos de acceso → Validar argumentos y permisos.; Límites de pasos e iteraciones → Validar argumentos y permisos.; El humano aprueba la acción. → Rechazar o detener (Denegada). S03 · mapa de relaciones Acciones consecuentes y aprobación humana. Aporte Solicitud de usuario Decisión/control Permisos de acceso Decisión/control Límites de pasos e iteraciones Modelo/agente de IA Agente / LLM Datos Convocatoria de herramienta propuesta Decisión/control Validar argumentos y permisos. Decisión/control El humano aprueba la acción. Producción Rechazar o detener Herramienta / servicio Acción exterior Tienda/índice Seguimiento de ejecución Producción Resultado a verificar Denegada Flujo principal Datos y contexto Comentarios y devolución

Siga las flechas sólidas para el flujo principal. Las flechas azules discontinuas proporcionan datos o contexto; Las flechas discontinuas de color rosa muestran comentarios o resultados devueltos. Colores y formas distinguen modelos, tiendas, decisiones y resultados. La aprobación humana es un concepto de integración de aplicaciones; una solicitud de aprobación no es aplicación de la ley. En pantallas pequeñas, desplázate horizontalmente para seguir todo el esquema.

Un ejemplo completo

"¿Puedes cancelar el pedido?" Puede comenzar con la lectura y la vista previa. La ejecución deberá confirmar identificador, efecto y autorización; una respuesta modelo no es la aprobación del usuario.

Pruébalo tú mismo

  1. Dibuje un flujo de cancelación con vista previa, aprobación y protección contra efectos duplicados.
  2. Registre la entrada, la fuente y el resultado esperado antes de ejecutar el experimento. Utilice únicamente los datos ficticios del ejemplo.
  3. Siga las etapas del diagrama. En cada paso registre qué información se recibe y se produce; No confunda el resultado intermedio con el resultado final.
  4. Repita después de eliminar la información necesaria o hacer que la entrada sea ambigua. Compruebe si el sistema aclara, detiene o inventa una respuesta.
  5. Comparar con la solución explicada. Conserve la configuración, fecha, resultado y una explicación de las diferencias. Cambie una cosa y vuelva a probar.

Una solución explicada

La acción no se ejecuta sin el control requerido; La auditoría separa la propuesta y la ejecución. Un ejercicio exitoso le permite mostrar la conexión entre los aportes, las etapas y el resultado. Cuando falta información, una respuesta cautelosa es más útil que detalles inventados. Compare más que estilo: compruebe también las condiciones, las fuentes y las operaciones.

Cuándo resulta útil y cuáles son sus límites

Este es un ejemplo arquitectónico; no supone un control de aprobación de UI implementado. Elija este enfoque cuando mejore una necesidad medida. Mantenga una línea de base simple y compare los resultados utilizando insumos idénticos. Un ejemplo exitoso no establece confiabilidad en todas las situaciones.

Comprueba lo que has aprendido

¿Quién ejecuta una llamada propuesta por el modelo?

La aplicación o servicio de alojamiento después de la validación. El modelo no obtiene automáticamente acceso ilimitado.

¿Por qué eliminar una fuente privada después de responder es demasiado tarde?

Los datos ya han entrado en el contexto del modelo y pueden divulgarse.

¿Qué resultado debería producir este ejercicio?

La acción no se ejecuta sin el control requerido; La auditoría separa la propuesta y la ejecución.

Términos que conviene recordar

  • Llamada de herramientas: una solicitud estructurada para utilizar una capacidad externa.
  • Autorizar / Autorización: Comprobar el derecho de acceso a una operación o recurso.
  • Idempotencia: Repetición controlada sin duplicar un efecto.

Fuentes y su próximo paso

Para preparar: S02 — Permisos y protección de datos