Saltar al contenido

lunes, abril 20, 2026

Entradas recientes

Pair programming con IA en 2025: hábitos que quedan
vLLM en 2025: las mejoras que importan a quien sirve LLM
GraphRAG de Microsoft en empresa: patrones que funcionan
Evaluación de alineamiento: RLHF, DPO y alternativas recientes
Gemma 2: el modelo abierto de Google un año después

Pasión por la tecnología

es
- en

Etiqueta: cuda

TensorRT-LLM: aceleración en GPUs NVIDIA para LLM

noviembre 4, 2024 javi

Tarjeta gráfica GPU con refrigeración y luces LED visibles, hardware sobre el que opera TensorRT-LLM

TensorRT-LLM es el ceiling de rendimiento en GPUs NVIDIA. Compleja pero 2-3x faster que vLLM en casos óptimos.

Inteligencia Artificial

Entradas recientes

Pair programming con IA en 2025: hábitos que quedan
vLLM en 2025: las mejoras que importan a quien sirve LLM
GraphRAG de Microsoft en empresa: patrones que funcionan
Evaluación de alineamiento: RLHF, DPO y alternativas recientes
Gemma 2: el modelo abierto de Google un año después
o3 en público: el salto en razonamiento se confirma
Gemini 2.0: herramientas integradas y modo agente
Home lab: el laboratorio autoalojado como campo de pruebas
Full-stack TypeScript en 2025: lo bueno, lo regular, lo malo
WASI preview 3: hilos y async en WebAssembly
Code review asistido por IA: adopción honesta
Llama 3.2 en el edge: Meta apuesta por lo pequeño
Cloudflare Workers en 2025: del edge a la empresa
Generics en Go: tres años después, qué ha sobrevivido
NPU en el PC: IA local más rápida y barata

Copyright © Todos los derechos reservados

Usamos cookies para asegurar que te damos la mejor experiencia en nuestra web. Si continúas usando este sitio, asumiremos que estás de acuerdo con ello. Pulsa en "Aceptar todo" si estás de acuerdo.

Ajustes de Cookies Aceptar Todo

Manage consent

Privacy Overview

This website uses cookies to improve your experience while you navigate through the website. Out of these, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may affect your browsing experience.

Necessary

Siempre activado

Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.

Functional

Functional cookies help to perform certain functionalities like sharing the content of the website on social media platforms, collect feedbacks, and other third-party features.

Performance

Performance cookies are used to understand and analyze the key performance indexes of the website which helps in delivering a better user experience for the visitors.

Analytics

Analytical cookies are used to understand how visitors interact with the website. These cookies help provide information on metrics the number of visitors, bounce rate, traffic source, etc.

Advertisement

Advertisement cookies are used to provide visitors with relevant ads and marketing campaigns. These cookies track visitors across websites and collect information to provide customized ads.

Others

Others

Other uncategorized cookies are those that are being analyzed and have not been classified into a category as yet.

GUARDAR Y ACEPTAR