Synthetic training data in 2026: when it works
Synthetic data has moved from precarious substitute for real data to central component of modern training. These are the patterns that work and those still failing.
Tag
fine-tuning
DPO and alternatives to RLHF: practical state in 2026
Direct Preference Optimization and its relatives have displaced RLHF as the preferred alignment method in much of the ecosystem. This is the practical state of the field in 2026.
Alignment evaluation: RLHF, DPO, and recent alternatives
Tres años después de que RLHF se hiciera popular, el paisaje del alineamiento de modelos es más rico. Repaso de RLHF, DPO y los métodos más recientes como KTO o ORPO, con criterios para elegir.
LoRA and QLoRA: Efficient Fine-Tuning on a Single Laptop
LoRA reduce el coste del fine-tuning de forma dramática. QLoRA va aún más allá combinando cuantización y adaptadores de bajo rango. Cómo funcionan, cuándo usarlos y qué calidad esperar.
LLM Fine-Tuning: When It’s Worth Training Your Own
Fine-tuning sigue siendo caro y operativamente complejo. Guía para decidir entre RAG, prompt engineering y entrenamiento propio.
Pre-trained Models and Transfer Learning
La transferencia de aprendizaje permite reutilizar modelos entrenados en grandes conjuntos de datos para resolver tareas nuevas con mucho menos datos y tiempo de cómputo. Cómo funciona y cuándo usarla.