Desplegar Llama 3.3 y Mistral en local con Ollama y Open WebUI en Ubuntu 24.04
Tutorial paso a paso siguiendo la serie histórica de jacar.es: instalación, GPU, modelos cuantizados y exposición segura tras Traefik.
Etiqueta
Tutorial paso a paso siguiendo la serie histórica de jacar.es: instalación, GPU, modelos cuantizados y exposición segura tras Traefik.
Hace un año los pesos abiertos eran una apuesta; hoy son una opción de producción real. Repaso lo que ha funcionado, lo que no y cómo están encajando Llama, DeepSeek, Qwen y Mistral en arquitecturas empresariales que antes dependían de APIs cerradas.
Meta publicó Llama 3.2 con modelos tan pequeños como 1B y 3B, pensados específicamente para ejecutarse en dispositivos. Análisis de qué pueden hacer realmente y cómo se comparan con las alternativas.
Elegir LLM abierto ya no es solo Llama 2. Mistral, Qwen, Yi, DeepSeek y varios más compiten. Criterios prácticos para empresas más allá del benchmark.