Límites al "Credit Scoring" Automatizado
El CEPD refuerza las garantías del ciudadano frente al tratamiento de macrodatos destinados a la calificación crediticia sin supervisión humana efectiva.
El Comité Europeo de Protección de Datos (CEPD) ha publicado nuevas directrices que limitan el uso de macrodatos —Big Data— en la toma de decisiones financieras automatizadas. El análisis de grandes volúmenes de datos para predecir la solvencia de un individuo, en particular a efectos de la concesión de créditos, a menudo basado en fuentes heterogéneas como comportamientos de consumo, geolocalización o perfiles digitales, debe respetar escrupulosamente el estatuto jurídico del cliente acreditado interesado, y en particular su derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado (Art. 22 RGPD) si esta produce efectos jurídicos significativos, en particular en la esfera contractual privada.
Para el Observatorio, la relevancia de esta doctrina es capital: el tratamiento de los macrodatos en el sector bancario y de seguros debe estar sujeto a mecanismos de supervisión que garanticen una transparencia total y respondan a una lógica explicable a operadores de mercado no especialistas en tratamiento de datos. No basta con informar de la existencia del algoritmo; el responsable debe garantizar la posibilidad de una intervención humana real y significativa sobre los sistemas de tratamiento de datos, donde la persona que tenga la autoridad disponga de mecanismos efectivos para impugnar y revertir la decisión del sistema. El futuro del tratamiento de macrodatos financieros solo será sostenible si se integra plenamente en el marco de garantías constitucionales que protegen la esfera privada del ciudadano y su derecho a la igualdad de trato, evitando sesgos que deriven en una exclusión financiera automatizada.
La eficiencia de los algoritmos de riesgo debe someterse siempre a los principios de Derecho digital y a los límites de orden público constitucional, impidiendo que el dato masivo dicte el acceso al crédito sin una tutela humana efectiva.
Referencias
Te puede interesar
Madrid, España – En un momento crucial para la regulación digital en Europa, la firma CMS Albiñana & Suárez de Lezo y la Universidad Pontificia Comillas han lanzado el Observatorio de Transformación Digital CMS Comillas, una iniciativa pionera que aspira a convertirse en el centro de referencia para el estudio del impacto legal de la digitalización.
El CEPD refuerza las garantías del ciudadano frente al tratamiento de macrodatos destinados a la calificación crediticia sin supervisión humana efectiva.
La Oficina de IA activa los mecanismos de control sobre los modelos de propósito general que superan los umbrales de computación crítica establecidos por la AI Act.