¿Rápida trapo o ajuste?

Estos métodos cambian cosas diferentes. Elija en función de si el problema se refiere a instrucciones, hechos o comportamiento repetido.

Puedes seguir este curso sin cuenta ni programación. Los ejemplos utilizan datos sintéticos y es necesario comprobar los resultados de la IA.

Cómo funciona, paso a paso

Instrucciones, conocimientos y adaptación.

Un aviso cambia las instrucciones y ejemplos de la solicitud. RAG cambia la evidencia disponible sin modificar el modelo. El ajuste fino ajusta los parámetros para comportamientos o tareas repetidas y necesita datos y evaluación de calidad. LoRA/PEFT entrena un conjunto de parámetros más pequeño para una adaptación eficiente. La destilación transfiere comportamiento de un modelo a otro; La cuantificación reduce la precisión numérica para una inferencia eficiente, con compensaciones. Ninguno repara automáticamente las fuentes incorrectas. Para reglas que cambian con frecuencia, actualizar documentos suele ser más fácil de verificar que volver a capacitar.

RAG accede a la evidencia, no se vuelve a capacitar

RAG significa generación aumentada de recuperación: la recuperación proporciona pasajes relevantes antes de que el modelo responda. La ingestión prepara documentos, mientras que la ejecución de consultas busca en el índice y crea contexto. Un modelo de incrustación representa el texto numéricamente; el modelo de respuesta escribe la respuesta. Los modelos de reordenamiento, visión, gráficos y enrutadores tienen diferentes roles cuando es necesario. RAG ayuda con información privada o cambiante pero no garantiza la veracidad. Utilice una API autorizada para saldos, inventario exacto o permisos; un documento antiguo no es una fuente confiable para el estado actual.

Defina el éxito antes de optimizar

Preparar solicitudes representativas y respuestas o propiedades esperadas. Incluya casos comunes, ambigüedad, datos faltantes y errores de herramientas. Para RAG, mida la recuperación de evidencia por separado de la corrección de las respuestas. Recall@k mide la proporción de evidencia relevante encontrada en los primeros k resultados; precision@k mide la proporción de resultados devueltos que son relevantes. Para los agentes, también realice un seguimiento de las acciones, los permisos y las detenciones. Un LLM como juez puede acelerar la evaluación, pero necesita una calibración con respecto a los humanos. No cambie el indicador, el modelo y el índice simultáneamente si desea comprender qué mejoró los resultados.

El esquema explicativo

Siga las flechas sólidas para el flujo principal. Las flechas azules discontinuas proporcionan datos o contexto; Las flechas discontinuas de color rosa muestran comentarios o resultados devueltos. Colores y formas distinguen modelos, tiendas, decisiones y resultados. En pantallas pequeñas, desplázate horizontalmente para seguir todo el esquema.

Un ejemplo completo

El tono demasiado técnico necesita indicaciones más claras. Una nueva política necesita fuentes actualizadas y GAR. El formateo especializado repetido puede justificar un ajuste después de evaluar opciones más simples.

Pruébalo tú mismo

1. Elija una solución para el tono, el stock en vivo, una nueva política y formato repetido.
2. Registre la entrada, la fuente y el resultado esperado antes de ejecutar el experimento. Utilice únicamente los datos ficticios del ejemplo.
3. Siga las etapas del diagrama. En cada paso registre qué información se recibe y se produce; No confunda el resultado intermedio con el resultado final.
4. Repita después de eliminar la información necesaria o hacer que la entrada sea ambigua. Compruebe si el sistema aclara, detiene o inventa una respuesta.
5. Comparar con la solución explicada. Conserve la configuración, fecha, resultado y una explicación de las diferencias. Cambie una cosa y vuelva a probar.

Una solución explicada

Utilice indicaciones para requisitos, RAG para documentos y adaptación solo con datos y evaluación adecuados. Un ejercicio exitoso le permite mostrar la conexión entre los aportes, las etapas y el resultado. Cuando falta información, una respuesta cautelosa es más útil que detalles inventados. Compare más que estilo: compruebe también las condiciones, las fuentes y las operaciones.

Cuándo resulta útil y cuáles son sus límites

El ajuste fino no es una base de datos en vivo. Elija este enfoque cuando mejore una necesidad medida. Mantenga una línea de base simple y compare los resultados utilizando insumos idénticos. Un ejemplo exitoso no establece confiabilidad en todas las situaciones.

Comprueba lo que has aprendido

¿Es el ajuste la primera opción para las acciones actuales?

No. Utilice una fuente en vivo autorizada para obtener información que cambia rápidamente.

¿RAG cambia los parámetros de LLM?

No. Proporciona contexto en el momento de la solicitud; Los cambios de parámetros pertenecen al entrenamiento.

¿Qué resultado debería producir este ejercicio?

Utilice indicaciones para requisitos, RAG para documentos y adaptación solo con datos y evaluación adecuados.

Términos que conviene recordar

• Sintonia FINA: Adaptación de los parámetros del modelo utilizando ejemplos de tareas específicas.
• Recuperación: Encontrar información relevante en fuentes accesibles.
• Regresión / Regresión: Un cambio que rompe un caso previamente correcto.

Fuentes y su próximo paso

• Hugging Face — PEFT
• Lewis et al. — Generación aumentada de recuperación
• LangGraph — Flujos de trabajo y agentes

Para preparar: P06 — Razonamiento y verificación