Observabilidad de LLM: trazas, costes y calidad

Las aplicaciones basadas en LLM necesitan tres planos de observabilidad distintos: trazas de prompt y respuesta para depurar alucinaciones, seguimiento de costes por token y por función, y evaluación de calidad de respuesta. Herramientas como Langfuse, LangSmith y Helicone cubren estos planos con instrumentación específica.

10 de noviembre de 2024 8 min 308

Arquitectura

OpenTelemetry: la unificación de logs, métricas y trazas

OpenTelemetry es el proyecto de la CNCF, graduado en mayo de 2026, que unifica logs, métricas y trazas bajo un único SDK y el protocolo OTLP, sin atarte a un backend concreto. Las trazas son estables desde 2021 y las métricas desde 2023; los logs siguen madurando, pero ya compensan en proyectos nuevos.

24 de agosto de 2023 4 min 312 4,6