Etiqueta
Ollama 0.5 o superior ejecuta Llama 3.3 70B y Mistral Large 2 en local sobre Ubuntu 24.04: la cuantización Q4_K_M deja que una sola GPU NVIDIA de 24 GB de VRAM, una RTX 4090 por ejemplo, mueva el modelo completo. Esta guía instala los drivers, monta Open WebUI y expone el servicio tras Traefik con TLS.
Esta guía instala PostgreSQL 16 con pgvector en Debian o Ubuntu usando el repositorio oficial PGDG, crea un rol y una base de datos dedicados, ajusta la memoria para producción y explica cuándo conviene el índice HNSW frente a IVFFlat según el volumen de vectores y la ventana de mantenimiento disponible.
Docker es la plataforma de contenedores más extendida. Esta guía explica cómo instalarlo en Ubuntu 24.04 LTS desde el repositorio oficial, con la clave GPG firmada en /etc/apt/keyrings y el plugin de Compose incluido.
Docker Compose es la herramienta oficial de Docker para definir y ejecutar aplicaciones multi-contenedor con un fichero YAML: un solo comando levanta todos los servicios, redes y volúmenes descritos. En Ubuntu 20.04 se instala descargando el binario standalone desde GitHub, aunque Docker recomienda migrar al plugin v2 integrado en el CLI, ya que la v1 dejó de tener mantenimiento.
Para instalar Docker en Ubuntu 20.04 añade el repositorio oficial de Docker (no el de Ubuntu, que suele quedarse atrás), importa su clave GPG, instala el paquete docker-ce y suma tu usuario al grupo docker para ejecutar contenedores sin sudo. El comando docker run hello-world confirma al final que el daemon funciona.
