o1-preview: OpenAI’s Model That Thinks Before Answering
OpenAI presentó o1 en septiembre de 2024. Un modelo que razona internamente antes de contestar. Qué cambia y cuándo merece la pena el coste adicional.
Category
Inteligencia Artificial
Artificial intelligence without the hype: models, agents, and use cases that work in production.
Hybrid Search: Combining BM25 and Vectors Seriously
El vector puro y la palabra clave pura dejan huecos distintos. La búsqueda híbrida los cubre fusionando BM25 y embeddings con RRF.
llama.cpp: Optimisations That Keep Surprising
llama.cpp es la base silenciosa del LLM local. 2024 trajo speculative decoding, RPC distribuido y backends de GPU renovados. Cuándo usarlo directo y cuándo dejar que Ollama lo envuelva.
Ollama in 2024: Running LLMs Locally Without Pain
Ollama consolidó como estándar para LLMs locales. Catálogo curado, API compatible con OpenAI, soporte multiplataforma y cuándo usarlo frente a vLLM.
Model Context Protocol: Anthropic’s Open Proposal
Anthropic presenta MCP, un estándar abierto para conectar modelos de lenguaje con datos y herramientas. Qué resuelve, cómo se diferencia del function calling y por qué puede convertirse en el LSP de los agentes.
Product-Market Fit in the AI Era: What Changes
Las reglas del product-market fit han cambiado en la era de la IA. Baseline de calidad alto, moats distintos y nuevas métricas. Una guía pragmática para evaluar PMF en productos con LLM.
LLM Observability: Traces, Costs, and Quality
Las aplicaciones LLM necesitan observabilidad específica: trazas de prompt/respuesta, costes de tokens y métricas de calidad. Herramientas y patrones para 2024.
TensorRT-LLM: Extreme Acceleration on NVIDIA GPUs for LLMs
TensorRT-LLM es el techo de rendimiento para inferencia LLM en NVIDIA. Complejo de desplegar pero 2-3x más rápido que vLLM en casos óptimos. Cuándo merece la complejidad.
LoRA and QLoRA: Efficient Fine-Tuning on a Single Laptop
LoRA reduce el coste del fine-tuning de forma dramática. QLoRA va aún más allá combinando cuantización y adaptadores de bajo rango. Cómo funcionan, cuándo usarlos y qué calidad esperar.
Claude’s Computer Use: When the Agent Moves the Mouse
Anthropic lanzó Computer Use en octubre de 2024: Claude controla el escritorio. Qué funciona, qué no, y las implicaciones reales para automatización.
GitHub Copilot Workspace: GitHub’s Conversational IDE
Copilot Workspace propone un desarrollo orientado a tareas: describe el problema, la IA planifica e implementa. Cómo compara con Cursor Composer y dónde encaja en el flujo de trabajo real.
Swarm: OpenAI’s Experiment for Multi-Role Agents
OpenAI publicó Swarm como framework experimental y educativo para sistemas multi-agente. Patrones que emergen y comparación con CrewAI y LangGraph.