Fine-Tuning de LLMs con Datos Propietarios
El modelo base conoce el lenguaje, pero no tu negocio. El fine-tuning eficiente permite enseñarle el vocabulario, el tono y las reglas de tu dominio sin reentrenar desde cero.
¿Cuándo el fine-tuning tiene sentido?
Muchos clientes llegan a GDA creyendo que necesitan fine-tuning cuando en realidad necesitan mejor RAG o mejores prompts. Nuestro primer trabajo es siempre el diagnóstico: si el conocimiento está en los documentos, RAG alcanza; si el problema es el estilo, el formato o el vocabulario interno, ahí sí el fine-tuning agrega valor.
Trabajamos con un estudio legal que necesitaba que el modelo redactara contratos con el estilo y la estructura exacta de la firma. Eso no se logra con prompts: es una cuestión de distribución del output.
Fine-tuning eficiente con LoRA y QLoRA
Usamos LoRA (Low-Rank Adaptation) y su variante QLoRA que cuantiza el modelo base a 4 bits: entrenar solo matrices de adaptación de bajo rango en lugar de todos los pesos. Con una sola GPU A100 entrenamos un modelo de 70B parámetros con resultados comparables al fine-tuning completo.
La receta que funcionó para el estudio legal: dataset curado de 3.000 contratos redactados por la firma, con el formato de cláusulas y el estilo de redacción preservado. El costo total de entrenamiento fue de 4 horas de GPU y menos de USD 300.
El proceso: datos antes que modelos
El 80% del trabajo de fine-tuning es la construcción del dataset. Curar, deduplicar, balancear por tipo de cláusula y validar que el tono sea consistente. Un dataset mal construido produce un modelo que aprende los errores del dataset.
Evaluamos el modelo ajustado contra un set holdout de contratos reales, con métricas de formato (estructura de cláusulas correcta) y de contenido (cobertura de términos obligatorios), además de la evaluación humana de dos abogados senior de la firma.
Resultados y lecciones
El modelo ajustado genera el 78% de las cláusulas contractuales sin edición humana, y el borrador inicial de un contrato pasó de 3 horas a 15 minutos.
La lección que más repetimos: el fine-tuning no reemplaza el sistema — lo mejora. Lo combinamos con RAG sobre el precedente legal de la firma y guardrails de validación. La suma de las tres técnicas es lo que produce un sistema confiable.
¿Listo para transformar tu negocio?
Contactanos y descubrí cómo podemos ayudarte a alcanzar tus objetivos.
Comencemos