IA y Estado de Derecho: el reto del control algorítmico

La irrupción de la inteligencia artificial (IA) ha abierto una de las discusiones más intensas en la historia reciente del Derecho Público. Tal como advierte Antonio José Sánchez, catedrático sevillano y director de la primera Cátedra de Inteligencia Artificial y Derecho Público en España, el poder de la IA no radica únicamente en su capacidad técnica, sino en su potencial de control social. “La IA es el sueño de cualquier dictador”, afirma en una entrevista para ABC, alertando sobre los riesgos de vigilancia masiva y manipulación algorítmica que amenazan los fundamentos del Estado de Derecho.

El reto jurídico no consiste en frenar la innovación, sino en domesticarla bajo principios de responsabilidad y rendición de cuentas. La opacidad de los algoritmos —las denominadas “cajas negras”— entra en tensión con los principios de publicidad y motivación de los actos administrativos.

Europa ha dado un paso decisivo con el Reglamento de Inteligencia Artificial (AI Act), que impone un enfoque basado en el riesgo. Sin embargo, su implementación plantea dilemas jurídicos: ¿cómo garantizar la tutela judicial efectiva cuando una decisión automatizada afecta derechos fundamentales? ¿Puede la eficiencia técnica desplazar la deliberación humana?

La solución pasa por un equilibrio: una inteligencia artificial al servicio del Derecho, no por encima de él. El desafío no es tecnológico, sino institucional. Si el siglo XIX fue el de la separación de poderes, el XXI será el de la separación entre poder humano y poder algorítmico.

Como recuerda el Tribunal de Justicia de la Unión Europea, “el progreso tecnológico no puede justificar la erosión de las libertades”. La cuestión no es si la IA será controlada, sino por quién y bajo qué principios.