RAG Avanzado: Más Allá de la Búsqueda Semántica
El RAG ingenuo responde con la frase correcta y el contexto equivocado. El RAG maduro es un sistema de ingeniería: chunking, reranking, evaluación y guardrails.
Por qué el RAG "de tutorial" no llega a producción
Un banco nos pidió un asistente para su call center que responda sobre 40.000 páginas de normativa. La primera prueba con un RAG clásico — embedding + top-k + prompt — daba respuestas fluidas y, en el 30% de los casos, normativa desactualizada o fuera de contexto.
El problema no era el modelo ni el embedding: era que estábamos mezclando la búsqueda de similitud con la precisión regulatoria. Son objetivos distintos que exigen piezas distintas.
Chunking dinámico y reranking
Reemplazamos el chunking por tamaño fijo por un chunking semántico que respeta la estructura del documento normativo: artículos, incisos y referencias cruzadas quedan como unidades autocontenidas. Cada chunk se enriquece con metadata de vigencia, jerarquía normativa y jurisdicción.
A la recuperación por similitud le sumamos una etapa de reranking con un cross-encoder. El resultado: el contexto correcto pasa del top-5 al top-1 en el 84% de las consultas, en lugar de depender del orden de una búsqueda vectorial pura.
Guardrails y evaluación continua
Construimos un conjunto de evaluación con 800 consultas etiquetadas por expertos del banco, y lo convertimos en parte del CI: cada cambio en embeddings, chunking o prompts se valida contra ese set antes de desplegar.
Los guardrails operan en tres capas: detección de consultas fuera de alcance, verificación de que la respuesta cite chunks vigentes, y un fallback controlado cuando la confianza no alcanza el umbral — el asistente dice "no tengo certeza" en lugar de inventar.
El resultado
La precisión de las respuestas sobre normativa pasó de 71% a 94%, y el tiempo de resolución de consultas del call center se redujo 38%. El asistente hoy maneja el 55% de las consultas de forma autónoma.
El aprendizaje central de GDA: en dominios regulados, la evaluación es el producto. Un RAG sin un set de evaluación curado y un mecanismo de regression testing es una demo, no un sistema.
¿Listo para transformar tu negocio?
Contactanos y descubrí cómo podemos ayudarte a alcanzar tus objetivos.
Comencemos