Ingeniería de contexto: ¿qué llega al modelo?
La ingeniería de contexto selecciona lo que ve el modelo.
lo que aprenderás
- Explique: el contexto es el banco de trabajo
- Aplica la idea en un ejemplo: Ingeniería de contexto: ¿qué llega al modelo?
- Reconocer las limitaciones y verificar el resultado del ejercicio.
La ingeniería de contexto selecciona lo que ve el modelo. El objetivo es la relevancia, no llenar la ventana de contexto.
Puedes seguir este curso sin cuenta ni programación. Los ejemplos utilizan datos sintéticos y es necesario comprobar los resultados de la IA.
Cómo funciona, paso a paso
El contexto es el banco de trabajo
El contexto incluye instrucciones, la solicitud actual, historial relevante, documentos recuperados y resultados de herramientas. La ventana contextual tiene capacidad limitada; reserve espacio para la respuesta también. Más texto no mejora automáticamente la precisión. La información irrelevante y las contradicciones pueden ocultar pruebas importantes. Resumir cuidadosamente el historial de la conversación y preservar el origen de los hechos. El estado describe la ejecución actual, un punto de control guarda un punto reanudable y la memoria persistente retiene información entre ejecuciones. Se trata de diferentes mecanismos gestionados por la aplicación.
RAG accede a la evidencia, no se vuelve a capacitar
RAG significa generación aumentada de recuperación: la recuperación proporciona pasajes relevantes antes de que el modelo responda. La ingestión prepara documentos, mientras que la ejecución de consultas busca en el índice y crea contexto. Un modelo de incrustación representa el texto numéricamente; el modelo de respuesta escribe la respuesta. Los modelos de reordenamiento, visión, gráficos y enrutadores tienen diferentes roles cuando es necesario. RAG ayuda con información privada o cambiante pero no garantiza la veracidad. Utilice una API autorizada para saldos, inventario exacto o permisos; un documento antiguo no es una fuente confiable para el estado actual.
Comprobar el acceso antes de su uso.
Los servidores y la capa de datos deben hacer cumplir los permisos. No permita que el modelo decida si un usuario puede ver un documento. Filtre las fuentes antes de que entren en contexto, no después de generar la respuesta. Utilice credenciales de acceso mínimo, manténgalas alejadas de mensajes, capturas de pantalla y códigos del navegador, y rote las claves expuestas. Una lista de dominios permitidos de widget no reemplaza la autenticación API. La autenticación le identifica; La autorización determina las operaciones y los datos que puede utilizar. Pruebe también el acceso denegado.
El esquema explicativo
Siga las flechas sólidas para el flujo principal. Las flechas azules discontinuas proporcionan datos o contexto; Las flechas discontinuas de color rosa muestran comentarios o resultados devueltos. Colores y formas distinguen modelos, tiendas, decisiones y resultados. En pantallas pequeñas, desplázate horizontalmente para seguir todo el esquema.
Un ejemplo completo
Para una pregunta sobre devolución, conserve la política y el producto actuales, no diez páginas de discusión sobre colores. Si dos políticas entran en conflicto, marque las versiones en lugar de mezclarlas.
Pruébalo tú mismo
- Reduzca diez párrafos de contexto a lo que requiere la pregunta.
- Registre la entrada, la fuente y el resultado esperado antes de ejecutar el experimento. Utilice únicamente los datos ficticios del ejemplo.
- Siga las etapas del diagrama. En cada paso registre qué información se recibe y se produce; No confunda el resultado intermedio con el resultado final.
- Repita después de eliminar la información necesaria o hacer que la entrada sea ambigua. Compruebe si el sistema aclara, detiene o inventa una respuesta.
- Comparar con la solución explicada. Conserve la configuración, fecha, resultado y una explicación de las diferencias. Cambie una cosa y vuelva a probar.
Una solución explicada
El modelo recibe instrucciones, preguntas y evidencia relevante y se conservan la fuente y la versión. Un ejercicio exitoso le permite mostrar la conexión entre los aportes, las etapas y el resultado. Cuando falta información, una respuesta cautelosa es más útil que detalles inventados. Compare más que estilo: compruebe también las condiciones, las fuentes y las operaciones.
Cuándo resulta útil y cuáles son sus límites
El resumen puede perder condiciones; verifique lo que se eliminó. Elija este enfoque cuando mejore una necesidad medida. Mantenga una línea de base simple y compare los resultados utilizando insumos idénticos. Un ejemplo exitoso no establece confiabilidad en todas las situaciones.
Comprueba lo que has aprendido
¿Es la memoria de usuario permanente de un punto de control?
No. Guardar una ejecución no implica conservar las preferencias en todas las conversaciones.
¿RAG cambia los parámetros de LLM?
No. Proporciona contexto en el momento de la solicitud; Los cambios de parámetros pertenecen al entrenamiento.
¿Qué resultado debería producir este ejercicio?
El modelo recibe instrucciones, preguntas y evidencia relevante y se conservan la fuente y la versión.
Términos que conviene recordar
- Control: Estado guardado utilizado para reanudar una ejecución.
- Recuperación: Encontrar información relevante en fuentes accesibles.
- Autorizar / Autorización: Comprobar el derecho de acceso a una operación o recurso.
Fuentes y su próximo paso
- LangGraph — Flujos de trabajo y agentes
- Lewis et al. — Generación aumentada de recuperación
- OWASP — Inyección de instrucciones
Para preparar: P01 — Ingeniería rápida sin fórmulas mágicas