BARCELONA, 21 de marzo. (EUROPA PRESS) –
El uso de la Inteligencia Artificial (IA) ha incrementado tanto el volumen como la complejidad de las denuncias y reclamaciones que recibe la Autoritat Catalana de Protecció de Dades (Apdcat). Esto ha impactado especialmente en sectores como la seguridad y la videovigilancia.
Meritxell Borràs, directora de Apdcat, ha señalado en una entrevista que las denuncias al organismo han aumentado un 40% anualmente en los últimos años. Sin embargo, aunque aún es complicado contabilizar la evolución de las denuncias relacionadas con la IA «por la falta de un gran histórico», su presencia se hace cada vez más común.
«La IA está teniendo tanto éxito porque nos facilita la vida, pero esto debemos combinarlo, y desde Europa lo han dicho muy claro, con que esta mejora no acabe pisando los derechos fundamentales de los ciudadanos europeos», explicó Borràs.
ACOMPAÑAMIENTO
La directora de la entidad subrayó que todos los sistemas de IA se mueven a través de datos, que en muchas ocasiones son personales. Esto puede contravenir el reglamento oficial de protección de datos de los ciudadanos: «Esta protección es igual de competente en documentos por escrito que en IA».
Aunque la Apdcat tiene capacidad sancionadora en casos de incumplimiento del reglamento de protección de datos, Borràs explicó que una de las prioridades del organismo es el acompañamiento a empresas, entidades y organismos para prevenir estos incumplimientos y, al mismo tiempo, garantizar los derechos fundamentales.
MODELO FRIA
La Apdcat ha desarrollado «el primer modelo a nivel europeo» en este ámbito, denominado modelo Fria, que es una metodología destinada a hacer una evaluación de impacto sobre los derechos fundamentales durante la aplicación de la IA, con la expectativa de evitar fallos o sesgos en su uso.
Un ejemplo mencionado por Borràs sería un estudio médico en el que se utilice IA para analizar imágenes y comparar resultados, evitando que se utilicen únicamente imágenes de muestras de hombres o que se ignoren fenotipos raciales.
IA ACT
La competencia de la Apdcat se deriva del reglamento europeo de IA, que otorga facultades a las autoridades de protección de datos en los Estados miembros. Este reglamento establece que, antes de desplegar un sistema de IA de alto riesgo, se debe realizar «una evaluación del impacto sobre los derechos fundamentales que la utilización de dicho sistema pueda producir».
Además, aunque la normativa comunitaria sobre IA se centra en productos, segundo Borràs, los derechos de los ciudadanos europeos están garantizados a través de otras normativas legales. Al ser un reglamento europeo —y no una directiva— «su aplicación es directa como ley en los Estados miembros». A nivel estatal, se encuentra en desarrollo un anteproyecto de ley para el buen uso y la gobernanza de la IA.
DICTÁMENES
Adicionalmente, el organismo ha notado un incremento en el número de solicitudes de dictámenes para confirmar si es correcto utilizar sistemas de IA en ciertos ámbitos, lo que refleja «una prudencia por parte de quienes la están utilizando».
Ejemplos de peticiones de dictamen incluyen el desarrollo de un modelo matemático para prevenir la propagación de epidemias y el uso de cámaras con biometría en instalaciones deportivas.
El creciente uso de la IA y las competencias derivadas hacia la Apdcat han motivado cambios internos, tanto con un aumento, aunque ligero, de la plantilla para incorporar a expertos, como con el refuerzo de la formación del personal. «Es una realidad que tenemos delante y debemos apostar por la adaptación», defendió Borràs.