Reclasificar RAG: mejor evidencia primero
Rerank agrega una selección más cuidadosa después de la recuperación.
lo que aprenderás
- Explique: la búsqueda y la clasificación son etapas diferentes
- Aplique la idea en un ejemplo: Reclasificar RAG: mejor evidencia primero
- Reconocer las limitaciones y verificar el resultado del ejercicio.
Rerank agrega una selección más cuidadosa después de la recuperación. Ayuda cuando existe buena evidencia pero ocupa un lugar demasiado bajo.
Estos pasos se refieren a las características identificadas en el código de la aplicación. Este material no ha sido validado en una instancia en vivo; consulta la documentación y las opciones de tu versión.
Cómo funciona, paso a paso
La búsqueda y el ranking son etapas diferentes
La recuperación selecciona candidatos y los ordena por clasificación. top_k es el número de resultados solicitados; aumentarlo puede traer evidencia pero también ruido. Un reclasificador examina la consulta y los candidatos más de cerca. No puede recuperar un pasaje que falta en la lista inicial. BM25 busca coincidencias léxicas y ayuda con códigos exactos; La búsqueda de vectores busca similitudes semánticas. RRF combina posiciones en listas clasificadas en lugar de sumar puntuaciones con unidades incompatibles. Las etapas adicionales deben justificar su calidad, latencia y costo mediante pruebas.
RAG accede a la evidencia, no se vuelve a capacitar
RAG significa generación aumentada de recuperación: la recuperación proporciona pasajes relevantes antes de que el modelo responda. La ingestión prepara documentos, mientras que la ejecución de consultas busca en el índice y crea contexto. Un modelo de incrustación representa el texto numéricamente; el modelo de respuesta escribe la respuesta. Los modelos de reordenamiento, visión, gráficos y enrutadores tienen diferentes roles cuando es necesario. RAG ayuda con información privada o cambiante pero no garantiza la veracidad. Utilice una API autorizada para saldos, inventario exacto o permisos; un documento antiguo no es una fuente confiable para el estado actual.
El costo pertenece a todo el camino.
Cuente llamadas de modelos, tokens de entrada y salida, incorporaciones, reclasificación, visión y herramientas. El razonamiento puede consumir tokens facturables sin una respuesta visible igualmente larga. Los costos de indexación y los costos de conversación difieren. Utilice precios actuales en lugar de un número permanente de un curso. Una estimación simple es tokens/1.000.000 × precio más operaciones adicionales; Los créditos de la aplicación pueden tener su propia conversión. Compare el costo por tarea exitosa, no solo por llamada. La ejecución paralela puede reducir la latencia y al mismo tiempo aumentar el consumo total. Un presupuesto necesita una condición de parada verificada.
laboratorio detallado
Interpretar listas iniciales y finales.
initial_top_k determina el recuento de candidatos recuperados; final_top_k determina cuántos quedan después de reclasificar. Consulta el reranker seleccionado y su coste. El texto de entrega puede estar semánticamente cerca de una pregunta de respuesta sin ser una evidencia apropiada.
Compare ejecuciones utilizando corpus, consultas y modelos de respuesta idénticos. Si el pasaje relevante está ausente en ambas listas iniciales, la reclasificación no puede resolver la causa. Si está presente y está mejor clasificada, inspeccione también la respuesta final: una lista mejor no garantiza que se utilicen todas las condiciones.
El esquema explicativo
Siga las flechas sólidas para el flujo principal. Las flechas azules discontinuas proporcionan datos o contexto; Las flechas discontinuas de color rosa muestran comentarios o resultados devueltos. Colores y formas distinguen modelos, tiendas, decisiones y resultados. La recuperación devuelve evidencia. Si un modelo de respuesta está habilitado, también redacta una respuesta; La evidencia recuperada aún necesita ser revisada. En pantallas pequeñas, desplázate horizontalmente para seguir todo el esquema.
Un ejemplo completo
La política de retorno es el octavo candidato. initial_top_k=15 lo incluye; final_top_k=5 mantiene los pasajes reclasificados más relevantes. Con sólo cuatro candidatos iniciales, estaría ausente.
template: Rerank
initial_top_k: 15
final_top_k: 5
Pruébalo tú mismo
- Configure un reclasificador, initial_top_k=15 y final_top_k=5 como un experimento, no como configuración universal.
- Registre la entrada, la fuente y el resultado esperado antes de ejecutar el experimento. Utilice únicamente los datos ficticios del ejemplo.
- Siga las etapas del diagrama. En cada paso registre qué información se recibe y se produce; No confunda el resultado intermedio con el resultado final.
- Repita después de eliminar la información necesaria o hacer que la entrada sea ambigua. Compruebe si el sistema aclara, detiene o inventa una respuesta.
- Comparar con la solución explicada. Conserve la configuración, fecha, resultado y una explicación de las diferencias. Cambie una cosa y vuelva a probar.
Una solución explicada
Se incluyen pruebas correctas y mejor ordenadas; compare calidad y costo con Naive. Un ejercicio exitoso le permite mostrar la conexión entre los aportes, las etapas y el resultado. Cuando falta información, una respuesta cautelosa es más útil que detalles inventados. Compare más que estilo: compruebe también las condiciones, las fuentes y las operaciones.
Cuándo resulta útil y cuáles son sus límites
La reclasificación no puede corregir fuentes no indexadas o no autorizadas. Elija este enfoque cuando mejore una necesidad medida. Mantenga una línea de base simple y compare los resultados utilizando insumos idénticos. Un ejemplo exitoso no establece confiabilidad en todas las situaciones.
Comprueba lo que has aprendido
¿Puede un reclasificador corregir un documento no indexado?
No. El pasaje primero debe existir en el índice y en la lista de candidatos.
¿RAG cambia los parámetros de LLM?
No. Proporciona contexto en el momento de la solicitud; Los cambios de parámetros pertenecen al entrenamiento.
¿Qué resultado debería producir este ejercicio?
Se incluyen pruebas correctas y mejor ordenadas; compare calidad y costo con Naive.
Términos que conviene recordar
- Reclasificar: Una reordenación más cuidadosa de los candidatos ya recuperados.
- Recuperación: Encontrar información relevante en fuentes accesibles.
- Latență / Latencia: Tiempo hasta un resultado útil.
Fuentes y su próximo paso
Para preparar: R03 — Naive RAG: tu línea de base