# Fine-Tuning de Modelos de Lenguaje Grande: De Modelos Base a IA Específica de Dominio

Canonical URL: https://cretisoftbooks.com/es/books/fine-tuning-de-llms-guia-practica

Book page: https://cretisoftbooks.com/es/books/fine-tuning-de-llms-guia-practica

Author: Miles Thornton

Language: es

Description: Un modelo base con 70 mil millones de parámetros puede completar poemas, pero no sabe responder una pregunta simple sobre políticas de devolución de tu empresa. El fine-tuning es la diferencia entre un modelo impresionante y un asistente útil, y este libro te enseña a construir esa diferencia. Fine-Tuning de Modelos de Lenguaje Grande es una guía práctica de ingeniería para transformar modelos abiertos como Llama o Mistral en asistentes especializados para tu dominio. Escrito por Miles Thornton, recorre todo el pipeline: desde la preparación de datos hasta el despliegue en producción, con foco en SFT y PEFT (LoRA, QLoRA), sin desviarse hacia teoría innecesaria. El libro cubre tres áreas que marcan la diferencia: • Curar y diseñar datasets de instrucciones de alta calidad, el factor que determina el éxito de cualquier fine-tuning. • Ejecutar entrenamiento supervisado con control total sobre tokenización, pérdida y sobreajuste. • Implementar LoRA y QLoRA para entrenar modelos de 70B en hardware de consumo, con optimizaciones como Unsloth y Flash Attention. Escrito para ingenieros que ya construyen con Python y conocen los conceptos básicos de machine learning, este manual te prepara para evaluar, exportar y servir tus propios modelos con herramientas como vLLM y Ollama. No es un libro de teoría matemática: es un flujo de trabajo real, con compensaciones claras y soluciones a errores comunes. Si quieres pasar de consumir APIs a construir IA específica de dominio, este libro te entrega el mapa completo. Con 18 capítulos y proyectos de extremo a extremo, estarás listo para llevar tus modelos a producción sin depender de clústeres costosos.

AI summary: Este libro es una guía práctica de ingeniería para el fine-tuning de modelos de lenguaje grandes (LLMs) open-source, como Llama y Mistral. Cubre todo el pipeline: preparación de datos, entrenamiento supervisado (SFT), fine-tuning eficiente en parámetros (LoRA, QLoRA), evaluación y despliegue en producción con herramientas como vLLM y Ollama. Está dirigido a ingenieros de software y científicos de datos que quieren crear asistentes de IA específicos de dominio con recursos limitados.

Target audience: Ingenieros de software, científicos de datos y desarrolladores de IA que buscan implementar LLMs en producción con recursos limitados.

Audience persona: Un ingeniero de software con experiencia en Python y machine learning que quiere crear asistentes especializados para su empresa sin depender de APIs costosas y con una GPU de consumo.

Search intent: El lector busca una guía práctica para ajustar modelos de lenguaje grandes (LLMs) a dominios específicos, con técnicas eficientes como LoRA y QLoRA, y poder desplegarlos en producción.

Unique angle: Este libro se distingue por su enfoque 100% práctico y orientado a recursos limitados, con técnicas como QLoRA y herramientas como Unsloth, evitando teoría innecesaria.

Content type: guía práctica de ingeniería

Answer snippets:
- El fine-tuning es el proceso de adaptar un modelo de lenguaje preentrenado a una tarea o dominio específico mediante entrenamiento adicional con datos supervisados.
- LoRA y QLoRA son técnicas de fine-tuning eficiente en parámetros que permiten entrenar modelos grandes en hardware de consumo.
- Este libro enseña a curar datasets de instrucciones, ejecutar SFT práctico y desplegar modelos con vLLM y Ollama.
- El libro está dirigido a ingenieros que quieren construir IA específica de dominio sin depender de clústeres costosos.

Key topics: fine-tuning, SFT, LoRA, QLoRA, datasets de instrucciones, evaluación de modelos, despliegue de modelos, optimización de memoria GPU

Entities: Modelos de lenguaje grande, Transformers, Fine-tuning supervisado, LoRA, QLoRA, PEFT, Hugging Face, vLLM, Ollama, Flash Attention

Problems solved:
- Cómo crear asistentes de IA especializados sin entrenar desde cero.
- Cómo reducir el costo de entrenamiento mediante LoRA y QLoRA.
- Cómo preparar datasets de instrucciones de alta calidad.
- Cómo evaluar y mejorar iterativamente el rendimiento del modelo.
- Cómo desplegar modelos ajustados en producción con herramientas de código abierto.

Who should read:
- Ingenieros de software que quieren integrar LLMs en productos
- Científicos de datos que buscan especializar modelos con datos propios
- Desarrolladores de IA con experiencia en Python
- Profesionales de MLOps interesados en el ciclo de vida del fine-tuning

Who should not read:
- Personas que buscan una introducción a machine learning sin conocimientos previos
- Investigadores interesados en teoría avanzada de entrenamiento distribuido o RLHF
- Lectores que prefieren usar APIs cerradas sin control sobre el modelo

FAQ:

Q: ¿Qué es el fine-tuning de LLMs?
A: El fine-tuning es el proceso de adaptar un modelo preentrenado a una tarea o dominio específico mediante entrenamiento adicional con datos supervisados.

Q: ¿Cuál es la diferencia entre LoRA y QLoRA?
A: LoRA entrena adaptadores de bajo rango mientras congela los pesos originales; QLoRA extiende LoRA a modelos cuantizados a 4 bits para reducir aún más el uso de memoria.

Q: ¿Necesito una GPU muy potente para hacer fine-tuning?
A: No, con técnicas como QLoRA se puede fine-tuning de modelos de 70B en una GPU de consumo de 24GB.

Q: ¿Este libro cubre RLHF?
A: No, el libro se enfoca en SFT (fine-tuning supervisado) y PEFT, no en RLHF ni entrenamiento distribuido.

SEO keywords: fine-tuning de LLMs, LoRA, QLoRA, entrenamiento de modelos de lenguaje, despliegue de LLMs, ingeniería de prompts vs fine-tuning, datasets de instrucciones, optimización de memoria GPU

Table of contents:
- Introducción
- El Pipeline Moderno de Fine-Tuning de LLM
  - El Viaje desde el Preentrenamiento hasta los Modelos de Chat
    - El Pipeline Moderno de Desarrollo de LLM
    - Dónde Encaja el Fine-Tuning
    - De Modelos Base a Asistentes de IA
    - Fine-Tuning vs Ingeniería de Prompts vs RAG
    - El Flujo de Trabajo Completo de Fine-Tuning
  - Comprensión de los Modelos de Lenguaje Modernos
    - Fundamentos de Transformers
    - Arquitecturas Solo-Decoder
    - Modelos Base, Modelos Instruct y Modelos de Chat
    - Familias de Modelos de Peso Abierto
    - Elección del Modelo Adecuado
  - Estrategias de Fine-Tuning
    - Preentrenamiento Continuo
    - Fine-Tuning Completo
    - Fine-Tuning Supervisado
    - Fine-Tuning Eficiente en Parámetros
    - Elección de la Estrategia Adecuada
- Construcción de Datos de Entrenamiento de Alta Calidad
  - Recopilación de Datos de Entrenamiento
    - Fuentes de Datos de Entrenamiento
    - Datos Específicos de Dominio
    - Limpieza y Filtrado
    - Deduplicación
    - Versionado de Conjuntos de Datos
  - Diseño de Conjuntos de Datos de Instrucciones
    - Formato Instrucción-Respuesta
    - Conversaciones de Múltiples Turnos
    - Prompts de Sistema
    - Plantillas de Chat
    - Balanceo de Conjuntos de Datos
  - Mejora de la Calidad del Conjunto de Datos
    - Detección de Muestras de Baja Calidad
    - Generación de Datos Sintéticos
    - Aumentación de Datos
    - Validación de Conjuntos de Datos
    - Construcción de Conjuntos de Datos Listos para Producción
- Fine-Tuning Supervisado
  - Preparación para el Entrenamiento
    - Tokenización
    - Ventanas de Contexto
    - Empaquetado de Secuencias
    - Objetivos de Entrenamiento
    - Funciones de Pérdida
  - Ejecución del Fine-Tuning Supervisado
    - Carga de Modelos
    - Carga de Conjuntos de Datos
    - Configuración del Entrenamiento
    - Ejecución del Entrenamiento
    - Guardado de Checkpoints
  - Evaluación del Entrenamiento
    - Métricas de Entrenamiento
    - Validación
    - Ajuste de Hiperparámetros
    - Detección de Sobreajuste
    - Resolución de Problemas
- Fine-Tuning Eficiente en Parámetros
  - Introducción a PEFT
    - ¿Por qué PEFT?
    - Métodos Basados en Adaptadores
    - LoRA
    - QLoRA
    - Elección de un Método PEFT
  - Fine-Tuning con LoRA
    - Módulos Objetivo
    - Hiperparámetros de LoRA
    - Optimización de Memoria
    - Fusión de Adaptadores
    - Exportación de Modelos
  - Fine-Tuning Cuantizado
    - Conceptos Básicos de Cuantización
    - Entrenamiento a 4-Bits
    - Cuantización NF4
    - Doble Cuantización
    - Compromisos Prácticos
- Ingeniería de Fine-Tuning
  - El Stack de Fine-Tuning de Código Abierto
    - Transformers

Sample EPUB: https://cretisoftbooks.com/book-samples/6a7c1fb095d831b42e58d7f7-1786839990224-fine-tuning-de-modelos-de-lenguaje-grande-de-modelos-base-a-ia-especifica-de-dominio-epub-mau-20.epub

Purchase links:
- Google Books: https://play.google.com/store/books/details?id=64IBEgAAQBAJ