Modelos agénticos self-hosted y tool calling
Ejecuta modelos con llamada a herramientas en tu propio hardware: Nous Hermes 3 y 4, Qwen-Agent, function calling con Ollama, qué modelos abiertos soportan herramientas, y las bibliotecas de salida estructurada Instructor, Outlines y DSPy.
-
Nous Hermes 3: un modelo agéntico open-weight
Hermes 3 es la familia de modelos open-weight de Nous Research, afinada sobre Llama 3.1 en tamaños de 8B, 70B y 405B. Su punto fuerte es el uso de herramientas mediante llamadas a funciones en formato JSON. Puedes ejecutarlo en tu propia máquina con Ollama o vLLM y darle capacidades agénticas sin depender de una API de pago.
-
Nous Hermes 4: el modelo agéntico con razonamiento híbrido
Hermes 4 es la familia de modelos open-weight que Nous Research publicó en agosto de 2025, con variantes de 14B, 70B y 405B parámetros. Su gran novedad es el razonamiento híbrido: un mismo modelo responde directo o delibera con etiquetas think antes de contestar, y conserva el formato de herramientas de Hermes.
-
Qwen-Agent: uso de herramientas con modelos Qwen
Qwen-Agent es el framework oficial del equipo Qwen para dar herramientas a sus modelos: function calling, un interprete de código en sandbox, RAG y MCP. Va por la version 0.0.34, publicada en febrero de 2026, suma unas 16.800 estrellas en GitHub y contiene la implementacion canonica del tool calling de Qwen3, tanto en la nube como en tu propia maquina.
-
Function calling con Ollama en tu propia máquina
El function calling permite que un modelo que ejecutas con Ollama en tu propia máquina pida a tu código que llame a una función (consultar el clima, buscar en una base de datos) y use el resultado para responder. Desde julio de 2024 Ollama soporta herramientas; en 2026 modelos como qwen3 o llama3.3 lo hacen con fiabilidad razonable.
-
Modelos abiertos con tool calling: cuál elegir
No todos los modelos abiertos llaman a herramientas igual de bien: la familia Qwen3, los Hermes de Nous, Llama 3.1 y Mistral destacan porque se entrenaron para ello. Para elegir, mira el Berkeley Function-Calling Leaderboard, comprueba que exista un parser para su plantilla y ajústalo a la VRAM de tu GPU.
-
Instructor: salidas estructuradas fiables
Instructor es la biblioteca de Python más usada para obtener salidas estructuradas y fiables de un modelo de lenguaje: defines el resultado que esperas como un modelo Pydantic, Instructor parchea el cliente para que el modelo lo respete y reintenta solo, con el error de validación incluido, hasta devolver un objeto válido y ya tipado.
-
Generación restringida con Outlines
Outlines es una biblioteca de Python que aplica generación restringida: obliga al modelo a producir una salida que se ajusta a un esquema JSON, una expresión regular o una gramática, con garantía por construcción y no estadística. Funciona con vLLM, Transformers, Ollama y llama.cpp, y su motor escrito en Rust apenas añade sobrecarga por token.
-
DSPy: optimización de prompts y programas de LLM
DSPy es un framework de Python de Stanford que trata las llamadas a un LLM como código: defines firmas con entradas y salidas tipadas, eliges un módulo como la cadena de pensamiento y dejas que un optimizador escriba los prompts por ti a partir de ejemplos y una métrica. Así compilas programas en vez de ajustar prompts a mano.