Etiqueta
Soup es una CLI de código abierto (Apache 2.0) que cubre el post-entrenamiento de un LLM de punta a punta: decide si compensa entrenar, escribe la configuración, entrena con LoRA, DPO o GRPO y emite un veredicto SHIP o DON'T SHIP. La probé el 15 de octubre de 2026, versión 0.76.1, en Linux arm64 sin GPU.
LoRA entrena solo dos matrices pequeñas por capa y QLoRA lo hace sobre un modelo base en 4 bits. La cuenta de memoria de cada técnica y un ejemplo reproducible en Docker sin GPU: LoRA entrenó el 3,5 % de los parámetros de SmolLM2-135M con un pico de 2,35 GB, frente a 3,88 GB del ajuste completo.
El fine-tuning de un LLM propio compensa en tres casos: necesitas un estilo o voz muy específicos, un formato de salida rígido y estructurado, o quieres reducir coste y latencia con un modelo pequeño especializado. LoRA y QLoRA han bajado el coste de GPU, pero preparar datos y operar el modelo en producción siguen siendo caros. Para el resto, RAG y prompt engineering bastan.
