Etiqueta
El red teaming de modelos de lenguaje ha pasado de actividad esotérica a práctica obligatoria. Con OWASP Agentic Top 10 y CSA Agentic AI Red Teaming Guide convergiendo en un vocabulario común, este es el manual operativo que cualquier equipo que despliegue agentes necesita tener.
En 2023, la cadena de suministro de software fue el blanco favorito de los atacantes: MOVEit expuso datos de cientos de organizaciones por una vulnerabilidad 0-day, el instalador de 3CX llegó troyanizado a millones de usuarios, y npm y PyPI siguieron recibiendo paquetes maliciosos por typosquatting. La defensa práctica combina SBOM, firma de artefactos con Sigstore, niveles SLSA y escaneo continuo de dependencias.
La Directiva NIS2 amplía la ciberseguridad europea de 7 a 18 sectores, exige 10 medidas técnicas mínimas y notificación de incidentes en 24 horas, e impone sanciones de hasta 10 millones de euros o el 2% de la facturación global, con responsabilidad personal para los órganos directivos que incumplan.
El aprendizaje de máquina adversarial estudia los ataques deliberados contra sistemas de IA (evasión, envenenamiento y extracción de modelos) y las defensas para resistirlos, sobre todo el entrenamiento adversarial, la certificación de robustez y la monitorización de la distribución de datos de entrada en producción.
La ciberseguridad combina controles técnicos (cifrado, MFA, segmentación de red), formación del equipo y un plan de respuesta a incidentes para reducir el riesgo de ransomware, phishing, malware y robo de identidad. Ninguna medida aislada basta: la eficacia depende de aplicar todas las capas a la vez y de auditar el sistema con regularidad.
