Categoría
Inteligencia artificial sin hype: modelos, agentes y casos de uso que funcionan en producción.
Model Context Protocol (MCP) es el estándar abierto que Anthropic publicó el 25 de noviembre de 2024 para conectar modelos de lenguaje con datos y herramientas externas mediante JSON-RPC 2.0. No sustituye al function calling: estandariza el lado del servidor, aspirando a ser para el contexto lo que el Language Server Protocol es para los editores de código.
LoRA reduce el coste del fine-tuning de modelos de lenguaje al entrenar solo pequeñas matrices de adaptación de rango bajo, no todos los parámetros del modelo base. QLoRA añade cuantización a 4 bits, lo que recorta la memoria de GPU necesaria entre un 65 % y un 75 %, con una pérdida de calidad de solo 1-3 %.
Claude 3.5 Sonnet (Anthropic, junio de 2024) iguala la calidad de Claude 3 Opus al precio del tier Sonnet, con 200 k tokens de contexto y un 92 % en HumanEval. Destaca especialmente en coding y seguimiento de instrucciones largas, y fue el primer modelo en integrar la función Artifacts en Claude.ai.
Mistral Large 2, lanzado por la startup francesa Mistral AI en julio de 2024, es un modelo de 123.000 millones de parámetros con ventana de contexto de 128k tokens que rivaliza con GPT-4o y Claude 3.5 Sonnet en varios benchmarks. Su residencia de datos en la UE y su precio de 3 EUR por millón de tokens de entrada lo convierten en la alternativa europea más seria frente a los proveedores estadounidenses.
CrewAI es un framework Python que modela agentes de IA como un equipo con roles, objetivos y tareas concretas. Cada agente tiene un LLM base y herramientas propias. Los agentes se coordinan en una tripulación con procesos secuenciales o jerárquicos. Comparo el framework con LangGraph y AutoGen, y cuándo adoptar el patrón multi-agente.
Los embeddings recuperan rápido pero ordenan mal, porque codifican consulta y documento en vectores independientes sin cruzar tokens. Un reranker cross-encoder sobre el top-100 corrige esa señal y sube Precisión@10 entre un 15 y un 30 por ciento en corpus de más de 100k documentos. Cuándo compensa añadir uno y cuándo el límite de latencia hace que no sea viable.
GPT-4 Turbo, lanzado en noviembre de 2023, amplió el contexto de GPT-4 a 128.000 tokens y redujo el precio de entrada 3 veces, hasta 10 dólares por millón de tokens. GPT-4o lo supera en precio, velocidad y calidad de respuesta, pero Turbo sigue siendo válido en apps productivas estables, contratos con versión fija y pruebas deterministas que dependen de su comportamiento concreto.
Evaluar un sistema RAG sin métricas es pura intuición. Ragas mide cuatro señales clave: faithfulness, answer relevancy, context precision y context recall, apoyándose en un LLM como juez. TruLens, DeepEval y otros frameworks cubren enfoques similares. Integrar la evaluación en CI desde el primer día detecta regresiones de prompts, chunking o modelo antes de que lleguen a producción.
La decodificación restringida garantiza matemáticamente que la salida de un LLM cumpla el esquema JSON. En cada paso de generación se enmascaran los tokens ilegales y es imposible producir JSON roto. Outlines, Guidance e Instructor son las implementaciones de referencia. Gana a los reintentos en extracción masiva y agentes con tool calling.
Anthropic lanzó la familia Claude 3 el 4 de marzo de 2024 con tres modelos: Haiku, Sonnet y Opus, todos con 200k tokens de contexto. Haiku cuesta $0.25 por millón de tokens; Opus compite con GPT-4 Turbo en benchmarks. Esta comparativa explica cuándo elegir cada nivel y cómo combinarlos en producción para minimizar coste sin perder calidad donde importa.
LM Studio es una aplicación de escritorio para Mac, Windows y Linux que descarga y ejecuta modelos de lenguaje grandes en tu propio equipo, con una interfaz de chat pulida y sin necesidad de terminal. Incluye una API compatible con OpenAI y RAG con tus documentos. Para uso individual gana a Ollama en experiencia de usuario; para equipos o producción conviene OpenWebUI, vLLM o TGI.
OpenAI liberó text-embedding-3 el 25 de enero de 2024 en dos variantes: small y large. Mejora la calidad MTEB frente a ada-002, añade dimensiones variables (truncar sin reentrenar) y baja el precio en small. Migrar compensa en la mayoría de RAG serios, pero conviene medir el recall real con tu propio corpus antes de reindexar todo.
