Contexto y memoria: ¿qué ve la IA?
El contexto es el banco de trabajo del modelo.
lo que aprenderás
- Explique: el contexto es el banco de trabajo
- Aplique la idea en un ejemplo: Contexto y memoria: ¿qué ve la IA?
- Reconocer las limitaciones y verificar el resultado del ejercicio.
El contexto es el banco de trabajo del modelo. La memoria es lo que la aplicación elige retener y traer de vuelta a ese banco de trabajo.
Puedes seguir este curso sin cuenta ni programación. Los ejemplos utilizan datos sintéticos y es necesario comprobar los resultados de la IA.
Cómo funciona, paso a paso
El contexto es el banco de trabajo
El contexto incluye instrucciones, la solicitud actual, historial relevante, documentos recuperados y resultados de herramientas. La ventana contextual tiene capacidad limitada; reserve espacio para la respuesta también. Más texto no mejora automáticamente la precisión. La información irrelevante y las contradicciones pueden ocultar pruebas importantes. Resumir cuidadosamente el historial de la conversación y preservar el origen de los hechos. El estado describe la ejecución actual, un punto de control guarda un punto reanudable y la memoria persistente retiene información entre ejecuciones. Se trata de diferentes mecanismos gestionados por la aplicación.
Una instrucción es un contrato.
Un buen mensaje especifica la tarea, los datos disponibles, el formato de salida y los criterios de éxito. Separe el rol de los datos e incluya un ejemplo para casos ambiguos. "Sea preciso" es más débil que "indique sólo la fecha límite en la póliza proporcionada; si falta, solicite una aclaración". Pocos intentos significa unos pocos ejemplos resueltos, no una lista interminable. El contenido del documento sigue siendo datos incluso cuando contiene comandos. Los delimitadores ayudan, pero el software debe imponer permisos y validación en lugar de depender del aviso.
La fluidez y la verdad se verifican por separado.
Una alucinación es un contenido incorrecto o sin fundamento presentado como respuesta. Puede surgir por falta de información, ambigüedad o patrones combinados incorrectamente. Solicite evidencia y verifique el documento original, fecha, unidades y condiciones. Es posible que una cita real aún no respalde el reclamo. Utilice fuentes actuales para hechos actuales, una calculadora para aritmética y “no pueda determinar” cuando faltan pruebas. No trate la confianza expresada en prosa como una probabilidad calibrada.
El esquema explicativo
Siga las flechas sólidas para el flujo principal. Las flechas azules discontinuas proporcionan datos o contexto; Las flechas discontinuas de color rosa muestran comentarios o resultados devueltos. Colores y formas distinguen modelos, tiendas, decisiones y resultados. En pantallas pequeñas, desplázate horizontalmente para seguir todo el esquema.
Un ejemplo completo
En una conversación identificas el producto LX-240. "¿Qué parte encaja?" tiene sentido allí, pero una nueva conversación carece del identificador. Reanudar un punto de control difiere de recuperar una preferencia persistente.
Pruébalo tú mismo
- Compare una pregunta en dos conversaciones y registre su contexto disponible.
- Registre la entrada, la fuente y el resultado esperado antes de ejecutar el experimento. Utilice únicamente los datos ficticios del ejemplo.
- Siga las etapas del diagrama. En cada paso registre qué información se recibe y se produce; No confunda el resultado intermedio con el resultado final.
- Repita después de eliminar la información necesaria o hacer que la entrada sea ambigua. Compruebe si el sistema aclara, detiene o inventa una respuesta.
- Comparar con la solución explicada. Conserve la configuración, fecha, resultado y una explicación de las diferencias. Cambie una cosa y vuelva a probar.
Una solución explicada
En la nueva conversación, pregunta por el modelo del producto. No asuma que la aplicación conserva las preferencias en todas las conversaciones. Un ejercicio exitoso le permite mostrar la conexión entre los aportes, las etapas y el resultado. Cuando falta información, una respuesta cautelosa es más útil que detalles inventados. Compare más que estilo: compruebe también las condiciones, las fuentes y las operaciones.
Cuándo resulta útil y cuáles son sus límites
La larga historia puede contener hechos caducados. Elija este enfoque cuando mejore una necesidad medida. Mantenga una línea de base simple y compare los resultados utilizando insumos idénticos. Un ejemplo exitoso no establece confiabilidad en todas las situaciones.
Comprueba lo que has aprendido
¿Es la memoria de usuario permanente de un punto de control?
No. Guardar una ejecución no implica conservar las preferencias en todas las conversaciones.
¿Puede un aviso reemplazar el control de acceso?
No. Una instrucción no es un límite de autorización.
¿Qué resultado debería producir este ejercicio?
En la nueva conversación, pregunta por el modelo del producto. No asuma que la aplicación conserva las preferencias en todas las conversaciones.
Términos que conviene recordar
- Control: Estado guardado utilizado para reanudar una ejecución.
- pocos tiros: Ejemplos resueltos proporcionados en contexto.
- Toma de tierra: Fundamentar una respuesta en evidencia verificable.
Fuentes y su próximo paso
- LangGraph — Flujos de trabajo y agentes
- OWASP — Inyección de instrucciones
- Hugging Face — LLM Course
Para preparar: F03 — ¿Qué es un LLM y cómo responde?