Desafiando a la inteligencia artificial – Ciberseguridad en Modelos LLM

En este taller se explicarán los ataques más recientes dirigidos a modelos de lenguaje (LLM) de inteligencia artificial, desde "prompt injections" hasta "data exfiltration" o "model hijacking", utilizando la nueva plataforma de retos en inteligencia artificial del CCN "LabIA" (https://labia.ccn.cni.es) con el objetivo de aprender a protegernos mejor. Cada nivel presenta escenarios reales con diferentes grados de complejidad, donde se deberán identificar vulnerabilidades, aprovecharlas y posteriormente implementar los controles de seguridad adecuados para mitigar el riesgo.