Si quieres que la IA sepa cosas de tu empresa (precios, políticas, productos), la respuesta casi siempre es RAG. Si quieres que se comporte de una forma muy específica (formato, tono, clasificación consistente) y un buen prompt no alcanza, entonces se evalúa el fine-tuning. Y en la mayoría de proyectos el punto de partida correcto es prompt engineering bien medido. Esta guía te ayuda a decidir con criterios concretos, no con modas.
Tres técnicas, tres palancas distintas
La confusión más común es tratar estas técnicas como alternativas para el mismo problema. En realidad actúan sobre cosas distintas:
- Prompt engineering es diseñar las instrucciones, ejemplos y contexto que recibe el modelo en cada llamada, sin modificar el modelo. Es rápido, barato y reversible.
- RAG (generación aumentada por recuperación) es buscar información relevante en tus fuentes y entregársela al modelo en el momento de responder. Cambia lo que el modelo sabe en esa respuesta. Lo explicamos a fondo en nuestra guía de RAG empresarial.
- Fine-tuning es volver a entrenar un modelo con ejemplos propios para ajustar sus pesos. Cambia cómo el modelo se comporta: formato, estilo, criterio de clasificación o una tarea muy acotada.
La guía de OpenAI sobre precisión de LLMs lo resume con dos ejes: optimizar el contexto (lo que el modelo necesita saber, que se resuelve con RAG) y optimizar el modelo (cómo debe actuar, que se resuelve con fine-tuning). La misma guía recomienda empezar por el prompt y un conjunto de evaluación como línea base.
Comparación: costo, velocidad, datos, trazabilidad y riesgo
| Criterio | Prompt engineering | RAG | Fine-tuning |
|---|---|---|---|
| Qué cambia | Instrucciones y ejemplos de cada llamada | El conocimiento disponible al responder | El comportamiento del modelo (sus pesos) |
| Costo inicial | Bajo: días de trabajo | Medio: ingesta, índice, permisos | Medio a alto: preparar datos, entrenar, evaluar |
| Costo por uso | Sube si el prompt es muy largo | Suma búsqueda y tokens de contexto | Puede bajar al usar prompts más cortos o un modelo más pequeño |
| Velocidad de actualización | Inmediata | Minutos u horas (reindexar) | Días o semanas (reentrenar y volver a evaluar) |
| Datos necesarios | Algunos ejemplos buenos | Tus documentos vigentes | Decenas a miles de pares entrada-salida curados |
| Trazabilidad | Alta: el prompt es legible | Alta: cada respuesta cita su fuente | Baja: no se puede saber de qué ejemplo salió una respuesta |
| Permisos por usuario | No aplica | Sí, filtrando la búsqueda | No: lo aprendido es igual para todos |
| Riesgo principal | Fragilidad ante casos no previstos | Recuperar fragmentos equivocados u obsoletos | Memorizar datos sensibles, perder capacidades generales, quedar atado a un modelo base |
Un dato práctico: en 2026 OpenAI anunció que está cerrando su plataforma de fine-tuning autoservicio y ya no admite usuarios nuevos, con el argumento de que los modelos recientes siguen instrucciones y formatos mucho mejor. Es una señal de que, para la mayoría de empresas, el fine-tuning de modelos cerrados dejó de ser el primer recurso. Sigue siendo relevante con modelos abiertos (Llama, Mistral y similares), donde técnicas como LoRA permiten ajustar un modelo entrenando solo una fracción pequeña de parámetros.
Árbol de decisión en cinco preguntas
- ¿Tienes una línea base medida? Si no, arma un prompt claro con ejemplos y un conjunto de 50 a 100 preguntas reales con su respuesta esperada. Sin esto, no podrás saber si otra técnica mejora algo. Te explicamos cómo en la guía para evaluar asistentes de IA.
- ¿Los errores se deben a información que el modelo no tiene o que cambia? (precios, inventario, políticas, contratos). Entonces necesitas RAG o consultas en vivo a tus sistemas.
- ¿Los errores son de forma, no de contenido? (no respeta un formato JSON, mezcla categorías, el tono no es el de tu marca). Primero mejora el prompt, agrega ejemplos y usa salidas estructuradas. Si después de eso persisten, evalúa fine-tuning.
- ¿Necesitas citar fuentes o aplicar permisos por usuario? Solo RAG lo permite. El fine-tuning no puede decir de dónde sacó una respuesta.
- ¿El volumen es tan alto que el costo por llamada importa? Un modelo pequeño ajustado con fine-tuning para una tarea muy acotada (clasificar, extraer) puede reemplazar a uno grande y reducir costo y latencia. Aquí el fine-tuning tiene su mejor caso de negocio.
Cuándo combinarlas
Las técnicas se suman. Un patrón frecuente en sistemas maduros es un modelo con fine-tuning para el formato y el criterio, alimentado por RAG para el conocimiento actualizado, con un prompt que fija reglas y límites. Un estudio de Microsoft de 2024 sobre preguntas agrícolas encontró que el fine-tuning mejoró la precisión en más de 6 puntos porcentuales y que RAG agregó 5 puntos más, de forma acumulativa.
Combinar tiene sentido cuando ya mediste cada parte por separado. Si empiezas con las tres a la vez, no sabrás cuál está aportando y cuál está estorbando.
Mitos comunes
- "Con fine-tuning el modelo aprende nuestros documentos." Es el malentendido más caro. Un estudio de 2023 (Ovadia y colegas) comparó ambas técnicas para inyectar conocimiento y encontró que RAG superó de forma consistente al fine-tuning no supervisado, y que a los modelos les cuesta aprender hechos nuevos por fine-tuning. Además, si el documento cambia, tendrías que reentrenar.
- "El fine-tuning elimina las alucinaciones." No. Un modelo ajustado puede inventar con más seguridad, porque ahora suena como tu empresa. Lo que reduce errores verificables es la evidencia con citas y la evaluación.
- "Necesitamos nuestro propio modelo para que sea privado." La privacidad depende del contrato con el proveedor, de dónde se procesan los datos y de los controles de acceso, no de entrenar un modelo. Revisa nuestra guía para elegir modelo: Claude, GPT u open source.
- "RAG es solo para chatbots." RAG sirve para redactar propuestas con cláusulas aprobadas, revisar contratos contra políticas o dar contexto a un agente antes de actuar.
- "Fine-tuning con modelos abiertos es gratis." El modelo puede serlo; preparar datos, entrenar, evaluar, alojar y mantener no lo es.
Ejemplos por caso de uso
| Caso de uso | Técnica recomendada | Por qué |
|---|---|---|
| Asistente que responde sobre reglamentos internos y procedimientos | RAG + prompt | El contenido cambia y hay que citar la fuente y respetar permisos |
| Atención a clientes por WhatsApp con precios y stock | RAG + consultas en vivo + prompt | Precios e inventario cambian a diario; ver nuestra guía de chatbot con IA en WhatsApp Business |
| Clasificar miles de correos o tickets por categoría | Prompt primero; fine-tuning de un modelo pequeño si el volumen lo justifica | Tarea acotada, alta repetición, sensible a costo y latencia |
| Extraer datos de facturas o contratos a un formato fijo | Prompt + salidas estructuradas; fine-tuning rara vez | Los modelos actuales siguen esquemas bien; las reglas de validación pesan más que el ajuste |
| Redactar respuestas con el tono exacto de la marca | Prompt con ejemplos; fine-tuning si hay cientos de ejemplos buenos y el prompt no alcanza | Es un problema de estilo, no de conocimiento |
| Consultas sobre normativa vigente (LOPDP, tributaria, laboral) | RAG con fuentes oficiales fechadas | Las normas se reforman; un modelo entrenado quedaría desactualizado |
Qué preparar antes de decidir
- Un caso de uso con dueño: qué tarea, para quién y cómo se mide el éxito (tiempo ahorrado, tickets resueltos, errores evitados).
- Datos reales: preguntas o documentos de ejemplo, no inventados. Para fine-tuning, pares de entrada y salida correctos revisados por alguien del negocio.
- Restricciones: qué datos personales intervienen (en Ecuador, la LOPDP trata como sensibles los datos de salud y biométricos), dónde pueden procesarse y quién puede ver qué.
- Presupuesto de operación: el costo no termina en el desarrollo; los tokens, la búsqueda y el mantenimiento son mensuales. Lo detallamos en cuánto cuesta implementar IA.
En nuestro servicio de desarrollo con IA validamos esta decisión con un prototipo sobre tus datos reales, desde USD 4.000 en 2 a 4 semanas, antes de comprometer una inversión mayor.
Preguntas frecuentes
¿Qué es mejor, RAG o fine-tuning?
Ninguno es mejor en general: resuelven problemas distintos. RAG es mejor cuando el modelo necesita conocimiento propio o cambiante y debes citar fuentes o aplicar permisos. El fine-tuning es mejor cuando necesitas un comportamiento muy consistente (formato, clasificación, estilo) que un buen prompt no logra, o para que un modelo pequeño haga una tarea acotada a menor costo. Muchas empresas solo necesitan prompt engineering y RAG.
¿Puedo entrenar ChatGPT o Claude con los documentos de mi empresa?
Técnicamente se puede ajustar algunos modelos, pero no es la forma recomendada de que conozcan tus documentos: el modelo no memoriza de forma confiable, no puede citar la fuente y quedaría desactualizado con cada cambio. Para eso se usa RAG, que busca en tus documentos al momento de responder. Además, OpenAI anunció en 2026 que está cerrando su plataforma de fine-tuning autoservicio.
¿Cuántos datos necesito para hacer fine-tuning?
Depende de la tarea. Para ajustar formato o estilo pueden bastar decenas o pocos cientos de ejemplos de alta calidad; para tareas más complejas, miles. Más importante que la cantidad es la calidad: ejemplos revisados, consistentes y representativos de los casos reales, incluidos los difíciles. Sin un conjunto de evaluación separado no podrás saber si el ajuste mejoró o empeoró el modelo.
¿Es más barato RAG o fine-tuning?
Para empezar, RAG suele ser más barato y rápido de poner en marcha, y no requiere reentrenar cuando cambian los datos. El fine-tuning tiene un costo inicial mayor (datos, entrenamiento, evaluación) pero puede reducir el costo por llamada si permite usar un modelo más pequeño o prompts más cortos en tareas de mucho volumen. La comparación correcta es costo total a 12 meses.
¿Se pueden usar RAG y fine-tuning al mismo tiempo?
Sí, y en sistemas maduros es común: el fine-tuning fija el comportamiento y el formato, y RAG aporta el conocimiento actualizado en cada respuesta. Lo recomendable es llegar a esa combinación paso a paso, midiendo el aporte de cada técnica con el mismo conjunto de preguntas de evaluación, en lugar de implementarlas todas desde el inicio.
Conclusión
La regla práctica es: conocimiento con RAG, comportamiento con fine-tuning y todo empieza con un buen prompt y una forma de medir. La mayoría de proyectos empresariales se resuelven con prompt engineering y RAG bien hechos; el fine-tuning se justifica en tareas acotadas de alto volumen o cuando el estilo es crítico y ya agotaste las alternativas más simples.
Si no tienes claro qué técnica necesita tu caso, conoce nuestro servicio de desarrollo con IA o agenda una consulta gratuita y lo analizamos con tus datos.
Fuentes y referencias
- OpenAI: Optimizing LLM accuracy
- OpenAI: Model optimization (incluye el aviso de cierre del fine-tuning)
- Ovadia et al. (2023): Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs
- Microsoft (2024): RAG vs Fine-tuning: Pipelines, Tradeoffs, and a Case Study on Agriculture
- Hu et al. (2021): LoRA, Low-Rank Adaptation of Large Language Models
- Documentación de Claude: prompt engineering