Claude 2[1], lanzado por Anthropic en julio de 2023, es la alternativa más sólida a GPT-4 en el mercado de LLMs comerciales. No es solo "otro modelo": su ventana de contexto de 100.000 tokens y su enfoque distinto a la alineación lo hacen la mejor opción para casos específicos. Cubrimos en qué se diferencia, dónde rinde mejor que GPT-4 y dónde se queda corto.

Puntos clave

  • La ventana de 100K tokens es la ventaja diferencial más clara: permite analizar documentos largos, codebases medianos y conversaciones extendidas sin chunking.

  • Constitutional AI es una técnica de entrenamiento con principios explícitos, no una capa de filtros; tiene consecuencias directas en el comportamiento del modelo.

  • GPT-4 sigue siendo superior en razonamiento matemático complejo y en el ecosistema de herramientas y plugins.

  • Para casos de contexto largo, análisis legal o documental, Claude 2 es la mejor opción del momento.

  • Tener acceso a ambos modelos reduce dependencia de un único proveedor.

Quién está detrás

Anthropic fue fundada en 2021 por Dario y Daniela Amodei junto con otros ex-investigadores de OpenAI. Su tesis: la seguridad y alineación de los LLMs no debe ser una capa añadida después, sino parte del entrenamiento desde el principio. De ahí su técnica propia, Constitutional AI.

La empresa ha recibido inversión sustancial de Google y, en septiembre de 2023, se anunció una inversión de hasta 4.000 millones de dólares de Amazon. Este respaldo cambia el escenario competitivo: ya no es OpenAI sin alternativa seria.

Las dos novedades destacables

Contexto de 100K tokens

Claude 2 acepta hasta 100.000 tokens de input, equivalente a unas 75.000 palabras o 200 páginas de texto. Cuatro implicaciones prácticas:

  • Subir un PDF entero (un libro técnico, varios artículos largos) y hacer preguntas sobre el conjunto sin chunking.

  • Analizar un codebase completo de tamaño medio sin trocear.

  • Resumir documentos largos directamente.

  • Mantener conversaciones extendidas sin perder memoria de los primeros mensajes.

El coste por token aumenta proporcionalmente, pero para casos donde antes había que construir pipelines de chunking complejos, la simplificación es significativa.

Constitutional AI

El enfoque de Anthropic a la seguridad se basa en una "constitución": un conjunto de principios escritos en lenguaje natural que el modelo usa para evaluar y refinar sus propias respuestas durante el entrenamiento. La idea: el modelo aprende a auto-criticarse siguiendo principios explícitos, en vez de depender solamente de feedback humano (Constitutional AI: Harmlessness from AI Feedback, Bai et al., 2022[2]).

En la práctica, Claude tiende a:

  • Negarse más a peticiones ambiguas. A veces es frustrante; a veces es correcto.

  • Razonar explícitamente sobre seguridad cuando hay duda.

  • Dar respuestas más cuidadosas en temas sensibles.

Para asistentes en ámbitos regulados esto es ideal; para otros contextos puede ser fricción innecesaria.

Comparativa con GPT-4

Los benchmarks oficiales colocan a GPT-4 ligeramente por encima en la mayoría de pruebas, pero ese "ligeramente" esconde matices importantes:

  • Razonamiento complejo y matemáticas: GPT-4 sigue siendo superior, especialmente en problemas multi-paso.

  • Coding: GPT-4 con CodeInterpreter rinde mejor en tareas largas; Claude 2 es competitivo en generación de código simple a moderado.

  • Escritura creativa y reescritura: parejos; la diferencia es de estilo personal.

  • Análisis de documentos largos: aquí Claude 2 gana por su contexto.

  • Multilingüe (español): ambos buenos; GPT-4 ligeramente superior en matices de idioma.

  • Velocidad: Claude 2 tiende a ser algo más lento en respuestas largas, similar en cortas.

  • Coste por token: comparable a GPT-4 estándar; ambos significativamente más caros que GPT-3.5.

Casos donde Claude 2 destaca

Cinco casos donde Claude 2 es la mejor opción práctica:

  • Análisis legal de contratos. Subir el contrato completo y hacer preguntas específicas sin chunking previo.

  • Lectura de papers científicos. Cargar el PDF entero y dialogar sobre metodología, resultados y limitaciones.

  • Asistente de código con contexto amplio. Cargar varios archivos relacionados y pedir refactor o análisis cross-archivo.

  • Sistemas conversacionales largos. Asistentes donde la sesión puede extenderse a centenares de mensajes sin perder memoria.

  • Compliance y revisión documental. Verificar que un documento cumple criterios escritos, comparando secciones entre sí.

Casos donde GPT-4 sigue siendo mejor

Cuatro áreas donde GPT-4 mantiene ventaja:

  • Plugins y function calling maduros. El ecosistema de OpenAI es más amplio y está más consolidado.

  • Razonamiento matemático complejo.

  • CodeInterpreter (ejecución de código en sandbox): Claude carece de equivalente directo.

  • Disponibilidad de modelos fine-tuneados y diversidad de variantes.

Acceso e integración

Claude 2 está disponible a través de cuatro canales:

  • claude.ai: interfaz web, gratuita con límites y de pago.

  • API de Anthropic: acceso programático similar a OpenAI.

  • Amazon Bedrock: Claude 2 disponible como modelo en AWS.

  • Google Cloud Vertex AI: disponibilidad anunciada.

La API es conceptualmente similar a la de OpenAI. Migrar código entre ambas suele ser trabajo de pocas horas. Si construyes pipelines RAG con bases vectoriales como las descritas en la comparativa de bases de datos vectoriales, la integración con Claude 2 es directa vía su API.

Conclusión

Claude 2 es una alternativa real y madura a GPT-4. Para casos donde el contexto largo es valioso o el enfoque de seguridad de Anthropic encaja con el producto, es la mejor opción disponible en 2023. Fuera de esos dos casos, ambos modelos son intercambiables. Tener acceso a los dos reduce la dependencia de un único proveedor: y la diversidad del mercado LLM es una buena noticia para todos los usuarios.

Preguntas frecuentes

¿Cuánto texto cabe en la ventana de contexto de 100K tokens de Claude 2?

Unas 75.000 palabras o 200 páginas de texto. Eso permite subir un PDF entero, como un libro técnico o varios artículos largos, y preguntar sobre el conjunto sin chunking. También analizar un codebase completo de tamaño medio sin trocear, resumir documentos largos directamente y mantener conversaciones extendidas sin perder memoria de los primeros mensajes. El coste por token aumenta proporcionalmente, pero evita construir pipelines de chunking complejos.

¿En qué sigue siendo mejor GPT-4 que Claude 2?

En razonamiento matemático complejo, sobre todo en problemas multi-paso, y en el ecosistema de plugins y function calling, más amplio y consolidado. También en CodeInterpreter, la ejecución de código en sandbox de la que Claude carece de equivalente directo, y en la disponibilidad de modelos fine-tuneados. GPT-4 con CodeInterpreter también rinde mejor en tareas de código largas y es ligeramente superior en matices del español. En escritura creativa están parejos y en análisis de documentos largos gana Claude 2.

¿Cómo se accede a Claude 2 y cuesta migrar desde la API de OpenAI?

Hay cuatro canales: la interfaz web claude.ai, gratuita con límites y de pago, y la API de Anthropic. También Amazon Bedrock, donde está disponible como modelo en AWS, y Google Cloud Vertex AI, con disponibilidad anunciada. La API es conceptualmente similar a la de OpenAI, así que migrar código entre ambas suele ser trabajo de pocas horas, y el coste por token es comparable al de GPT-4 estándar. Tener acceso a los dos modelos reduce la dependencia de un único proveedor.

Fuentes

  1. Claude 2
  2. Constitutional AI: Harmlessness from AI Feedback, Bai et al., 2022