Conversaciones y comentarios
Las conversaciones muestran dónde un sistema ayuda y falla.
lo que aprenderás
- Explique: defina el éxito antes de optimizar
- Aplicar la idea en un ejemplo: Conversaciones y comentarios
- Reconocer las limitaciones y verificar el resultado del ejercicio.
Las conversaciones muestran dónde un sistema ayuda y falla. Convierta la retroalimentación en una causa y una prueba.
Estos pasos se refieren a las características identificadas en el código de la aplicación. Este material no ha sido validado en una instancia en vivo; consulta la documentación y las opciones de tu versión.
Cómo funciona, paso a paso
Defina el éxito antes de optimizar
Preparar solicitudes representativas y respuestas o propiedades esperadas. Incluya casos comunes, ambigüedad, datos faltantes y errores de herramientas. Para RAG, mida la recuperación de evidencia por separado de la corrección de las respuestas. Recall@k mide la proporción de evidencia relevante encontrada en los primeros k resultados; precision@k mide la proporción de resultados devueltos que son relevantes. Para los agentes, también realice un seguimiento de las acciones, los permisos y las detenciones. Un LLM como juez puede acelerar la evaluación, pero necesita una calibración con respecto a los humanos. No cambie el indicador, el modelo y el índice simultáneamente si desea comprender qué mejoró los resultados.
La fluidez y la verdad se verifican por separado.
Una alucinación es un contenido incorrecto o sin fundamento presentado como respuesta. Puede surgir por falta de información, ambigüedad o patrones combinados incorrectamente. Solicite evidencia y verifique el documento original, fecha, unidades y condiciones. Es posible que una cita real aún no respalde el reclamo. Utilice fuentes actuales para hechos actuales, una calculadora para aritmética y “no pueda determinar” cuando faltan pruebas. No trate la confianza expresada en prosa como una probabilidad calibrada.
Los errores necesitan rutas explícitas
Un tiempo de espera difiere de un error de permiso. Reintente solo errores transitorios, con intentos limitados y retrasos crecientes. Una operación con efectos secundarios puede ejecutarse antes de que se pierda su respuesta; volver a intentarlo sin una clave de idempotencia puede duplicar el efecto. La transmisión muestra el progreso pero no garantiza su finalización. Los puntos de control pueden permitir que las etapas fallidas se reanuden dentro de los límites de tiempo de ejecución. Almacene el identificador de ejecución, la etapa, la duración y el error mientras elimina los secretos de los registros. Mida trayectorias lentas y promedios.
El esquema explicativo
Siga las flechas sólidas para el flujo principal. Las flechas azules discontinuas proporcionan datos o contexto; Las flechas discontinuas de color rosa muestran comentarios o resultados devueltos. Colores y formas distinguen modelos, tiendas, decisiones y resultados. En pantallas pequeñas, desplázate horizontalmente para seguir todo el esquema.
Un ejemplo completo
Una “respuesta inútil” puede significar una fecha límite incorrecta, un lenguaje técnico o una herramienta no disponible. Lea la conversación, identifique la causa y agregue un caso de regresión.
Pruébalo tú mismo
- Revise diez conversaciones ficticias y fracasos grupales por causa.
- Registre la entrada, la fuente y el resultado esperado antes de ejecutar el experimento. Utilice únicamente los datos ficticios del ejemplo.
- Siga las etapas del diagrama. En cada paso registre qué información se recibe y se produce; No confunda el resultado intermedio con el resultado final.
- Repita después de eliminar la información necesaria o hacer que la entrada sea ambigua. Compruebe si el sistema aclara, detiene o inventa una respuesta.
- Comparar con la solución explicada. Conserve la configuración, fecha, resultado y una explicación de las diferencias. Cambie una cosa y vuelva a probar.
Una solución explicada
Cada observación tiene una causa, un cambio propuesto y un control de seguimiento. Un ejercicio exitoso le permite mostrar la conexión entre los aportes, las etapas y el resultado. Cuando falta información, una respuesta cautelosa es más útil que detalles inventados. Compare más que estilo: compruebe también las condiciones, las fuentes y las operaciones.
Cuándo resulta útil y cuáles son sus límites
La retroalimentación positiva no es una etiqueta de verdad garantizada. Elija este enfoque cuando mejore una necesidad medida. Mantenga una línea de base simple y compare los resultados utilizando insumos idénticos. Un ejemplo exitoso no establece confiabilidad en todas las situaciones.
Comprueba lo que has aprendido
¿Un buen puntaje de estilo demuestra el éxito del agente?
No. El agente puede escribir maravillosamente después de utilizar la herramienta o los datos incorrectos.
¿Es suficiente un enlace en una respuesta?
No; debe respaldar el reclamo específico y adaptarse al momento y las circunstancias.
¿Qué resultado debería producir este ejercicio?
Cada observación tiene una causa, un cambio propuesto y un control de seguimiento.
Términos que conviene recordar
- Regresión / Regresión: Un cambio que rompe un caso previamente correcto.
- Toma de tierra: Fundamentar una respuesta en evidencia verificable.
- Idempotencia: Repetición controlada sin duplicar un efecto.
Fuentes y su próximo paso
Para preparar: U03: detener, reanudar y reiniciar