El análisis de riesgos en IT es una cuestión ampliamente abordada en la literatura. Sin embargo, en los últimos tiempos el ser humano ha tenido que lidiar con un embrión en el horizonte el cual ha ido creciendo hasta convertirse en el elefante en la habitación que se presenta en esta ponencia: Gestión de riesgos en IA. Se pondrá en contexto al oyente con los conceptos básicos de la IA confiable y robusta para que pueda entender que la evaluación de riesgos IA, no es una opción, sino una obligación, mucho más cuando la materialización de estos, afectan a nuestros derechos fundamentales como seres humanos. Se explorarán las taxonomías presentadas en la literatura actual y se presentará una taxonomía original, en la que se identificarán riesgos y ataques, y se propondrán técnicas y herramientas para su mitigación. Esta taxonomía no solo se centra en la puesta en producción de un sistema IA, si no que presenta una guía integral de todo el ciclo de vida del sistema, desde la formación del equipo de desarrollo hasta la fase de post-producción. Finalmente, y con la intención de demostrar la importancia de definir una gestión de riesgo IA así como saciar el apetito “hacker” del oyente, se presentará cómo, partiendo de los pesos de un modelo, se pueden eliminar las protecciones proporcionadas por los equipos de desarrollo a un bajo coste, tanto monetario como temporal, mediante un ajuste fino usando QLoRa. Este fenómeno se presenta en todos los modelos liberados al público: Llama 3, Phi, Qwen, Gemma e incluso los modelos destilados de DeepSeek.
Speakers: