Cataluña digitaliza trámites: IA y protección de derechos
Los sistemas de inteligencia artificial en la administración pública deben ajustarse a principios de legalidad, transparencia y control humano.
La Generalitat de Cataluña ha anunciado la creación de una Dirección General de Inteligencia Artificial y la implementación de sistemas proactivos de IA para simplificar trámites administrativos. Esta medida busca automatizar gestiones recurrentes mediante algoritmos que anticipen necesidades ciudadanas, en una apuesta por la eficiencia institucional y la innovación tecnológica.
No obstante, la incorporación de IA en procesos administrativos plantea importantes retos jurídicos. Entre ellos destacan el principio de legalidad, el derecho a una buena administración y la garantía de transparencia en la toma de decisiones públicas. La automatización debe cumplir estrictamente con la normativa vigente en protección de datos personales, especialmente el Reglamento General de Protección de Datos (RGPD) y los principios del Derecho Administrativo común.
Uno de los puntos más críticos es el deber de motivación y explicabilidad de los actos administrativos generados total o parcialmente por sistemas automatizados. Según el artículo 22 del RGPD, el ciudadano tiene derecho a no ser objeto de decisiones automatizadas sin intervención humana significativa, especialmente cuando puedan tener efectos jurídicos relevantes.
En este contexto, la creación de una autoridad pública específica en IA ofrece una oportunidad para establecer criterios normativos claros, supervisión técnica independiente y salvaguardas éticas. La futura aplicación del Reglamento de Inteligencia Artificial de la UE (AI Act) establecerá límites adicionales, exigiendo evaluaciones de impacto y transparencia algorítmica para sistemas desplegados por autoridades públicas.
La digitalización de la administración es necesaria, pero no puede desarrollarse al margen de los derechos fundamentales. Un uso legítimo de la IA en el sector público exige un equilibrio entre eficiencia, legalidad y control democrático.
Referencias
Te puede interesar
El experto de Oxford presenta el proyecto OCTAI y el futuro “Juramento de Oxford para la IA”, en el que participa Sara Lumbreras, profesora de Comillas
El Centro de Cultura Digital (CCD), en colaboración con la Universidad LUMSA, organizó en Roma el primer encuentro presencial del Grupo Académico Europeo de Investigación sobre Inteligencia Artificial
Se pone en marcha la Oficina de Inteligencia Artificial para liderar la implantación de la IA en todos los ámbitos de Comillas