RAG vs fine-tuning
Cómo elegir entre aportar conocimiento en tiempo de consulta o cambiar comportamiento del modelo.
La decisión en 30 segundos
Elígelo cuando…
Conocimiento cambiante, citas, documentos privados.
Elígelo cuando…
Estilo/comportamiento repetido y dataset de ejemplos.
No compares nombres; compara el trabajo
Cómo elegir entre aportar conocimiento en tiempo de consulta o cambiar comportamiento del modelo. La pregunta útil es: ¿qué error cuesta más, qué evidencia necesitas, cuál es el SLA, cuánto cambia el conocimiento y quién revisa?
Matriz de decisión
| Criterio | Pregunta |
|---|---|
| Calidad | ¿Qué debe acertar y cómo lo medirás? |
| Riesgo | ¿Qué pasa cuando falla? |
| Coste | ¿Cuál es el volumen real? |
| Frescura | ¿Cambian datos o comportamiento? |
| Operación | ¿Quién observa, corrige y mantiene? |
Prueba antes de decidir
Toma 20 casos reales, ejecuta ambos enfoques con la misma rúbrica y registra calidad, tiempo de revisión, coste, latencia y fallos. Una arquitectura gana cuando mejora tu sistema, no cuando gana una discusión.
Profundiza la decisión
Esta comparativa no debería terminar en “A es mejor que B”. ParaRAG vs fine-tuning, documenta el workload, el coste del error, el volumen, la frescura del dato y quién mantiene el sistema. Cambia una de esas variables y la recomendación puede cambiar.
| Decisión | Qué mirar | Señal buena | Señal de riesgo |
|---|---|---|---|
| Requisito duro | ¿Qué condición elimina una opción? | Está escrito antes de probar | Cambias la regla tras ver el resultado |
| Calidad | ¿Cómo se medirá en casos reales? | Golden set común | Impresiones o demos distintas |
| Coste | ¿Qué incluye el coste total? | Modelo + operación + revisión | Sólo precio unitario |
| Operación | ¿Quién observa y corrige? | SLO, fallback y dueño | Nadie mantiene el ganador |
Prueba mínima
- Selecciona 20–50 casos reales.
- Ejecuta ambas opciones con la misma entrada y la misma rúbrica.
- Registra calidad, tiempo, coste, latencia y excepciones.
- Revisa los casos donde discrepan; ahí está la información útil.
- Escribe qué dato haría cambiar la decisión.
RAG, Fine-tuning. La comparación gana valor cuando se conecta a evidencia y a un caso propio.