Etiqueta
El red teaming de modelos de lenguaje ha pasado de actividad esotérica a práctica obligatoria. Con OWASP Agentic Top 10 y CSA Agentic AI Red Teaming Guide convergiendo en un vocabulario común, este es el manual operativo que cualquier equipo que despliegue agentes necesita tener.
Prompt injection es la vulnerabilidad más común en aplicaciones con LLM y mucha gente la defiende con filtros que no sirven. Revisamos capas de defensa con evidencia, qué sí funciona y qué es teatro de seguridad.
Cuando un LLM pasa de contestar texto a ejecutar herramientas, la superficie de ataque cambia de categoría. La inyección de prompts, la contaminación de memoria y el abuso de protocolos entre agentes son el nuevo OWASP Top 10.
La ciberseguridad combina controles técnicos (cifrado, MFA, segmentación de red), formación del equipo y un plan de respuesta a incidentes para reducir el riesgo de ransomware, phishing, malware y robo de identidad. Ninguna medida aislada basta: la eficacia depende de aplicar todas las capas a la vez y de auditar el sistema con regularidad.
