El pasado 22 de mayo del 2025 Seem Consultoría asistió al Monthly Coffee del Club DPD sobre la gobernanza de IA en protección de datos. El objetivo de la sesión fue conocer los principios fundamentales de la gobernanza de la inteligencia artificial y su impacto en la protección de datos personales, proporcionando a los Delegados de Protección de Datos (DPD) herramientas clave para identificar riesgos, aplicar criterios de cumplimiento normativo y participar en la supervisión ética del uso de IA en sus organizaciones.
Contexto regulatorio:
• Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial). El pasado 2 de febrero de 2025 entró en vigor la primera fase de aplicación del Reglamento de Inteligencia Artificial (IA) en la Unión Europea (UE), marcando un hito en la regulación de esta tecnología. Este reglamento tiene como objetivo garantizar un uso seguro y ético de la IA, estableciendo una serie de restricciones y sanciones para prácticas consideradas perjudiciales.
• Anteproyecto de Ley para el buen uso y la gobernanza de la IA (2025)– En tramitación, introduce medidas adicionales como: →Etiquetado obligatorio de contenidos generados por IA (especialmente deepfakes). →Derecho digital a la retirada provisional del mercado de sistemas de IA peligrosos. →Creación de entornos de prueba regulados (sandbox). →Supervisión reforzada a través de la Agencia Española de Supervisión de la IA (AESIA)
• Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia.
Clasificación de los sistemas de IA: prácticas prohibidas
• ¿Qué se considera “práctica de IA prohibida? Ciertas prácticas o usos de IA que se consideran especialmente perjudiciales y contrarias a los valores de la unión (respeto a la dignidad humana, a los derechos fundamentales, libertad, igualdad, etc)
• Enfoque de riesgo: prevenir consecuencias adversas derivadas de su uso. • El artículo 96.1 b) RIA → La Comisión Europea podrá elaborar Directrices (Directrices de la Comisión Europea sobre prácticas prohibidas de inteligencia artificial (IA) según el Reglamento (UE) 2024/1689 (AI Act)
¿Dónde? → en lugares de trabajo o en los centros educativos
• ¿Por qué esta limitación? → desequilibrio de poder + carácter intrusivo en estos entornos
• Por ejemplo: saber si las personas trabajadoras están motivadas o no.
• Considerando 44 muestra su preocupación “especialmente porque la expresión de las emociones varía de forma considerable entre culturas y situaciones, e incluso en una misma persona”
• Pueden tener resultados discriminatorios e invadir los derechos y las libertades de las personas afectadas
Manipulación subliminal y engañosa
Explotación de vulnerabilidades
Clasificación social discriminatoria
Evaluación de riesgo predictiva en materia penal
Reconocimiento facial no autorizado
Identificación biométrica en tiempo real en espacios públicos
Categorización biométrica basada en datos sensibles
Análisis de emociones en entornos laborales y educativos
Clasificación de los sistemas de IA: sistemas de alto riesgo (art.6 y Anexo III RIA) Empleo y gestión de trabajadores [Anexo III, Sección 4]
• Contratación y selección de candidatos. Ejemplo: para filtrar solicitudes de empleo y evaluar a los candidatos.
• Decisiones laborales: condiciones, promoción, rescisión.
• Supervisión y evaluación del rendimiento.
Sanciones por incumplimiento del Reglamento de Inteligencia Artificial
El no respeto de la prohibición de las prácticas de IA estará sujeto a multas administrativas de hasta 35 millones de euros o, si el infractor es una empresa, de hasta el 7 % de su volumen de negocios mundial total correspondiente al ejercicio financiero anterior, si esta cuantía fuese superior.
Próximos pasos en la regulación de la IA en Europa
El 2 de agosto de 2025 entrarán en vigor nuevas medidas dirigidas especialmente a los modelos de IA de propósito general, estableciendo requisitos adicionales de transparencia y supervisión para estos sistemas.
Las empresas deben anticiparse a estos cambios y adaptar sus prácticas para evitar sanciones y cumplir con la normativa de manera efectiva.
