Predecir delitos con IA: ¿avance o amenaza jurídica?
El uso de datos sin consentimiento para predecir delitos plantea interrogantes constitucionales en la UE.
El Ministerio de Justicia del Reino Unido ha iniciado el desarrollo de un sistema de inteligencia artificial destinado a predecir delitos violentos, particularmente homicidios, antes de que ocurran. Este proyecto, inicialmente denominado "Proyecto de predicción de homicidios" y posteriormente rebautizado como "Intercambio de datos para mejorar la evaluación de riesgos", utiliza algoritmos que analizan datos personales sensibles de entre 100.000 y 500.000 personas, incluyendo información sobre salud mental, adicciones, autolesiones y discapacidades .
La iniciativa ha generado críticas por parte de organizaciones de derechos civiles, que advierten sobre el riesgo de discriminación algorítmica y la posible criminalización de individuos sin antecedentes penales . Además, el uso de datos sin el consentimiento explícito de los afectados plantea serias dudas sobre su compatibilidad con el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, que establece estrictas condiciones para el tratamiento de datos personales sensibles.
La aplicación de sistemas predictivos en el ámbito penal requiere un equilibrio entre la seguridad pública y la protección de los derechos fundamentales. La falta de transparencia en los criterios algorítmicos y la posibilidad de sesgos inherentes en los datos utilizados podrían socavar la confianza en el sistema judicial y vulnerar principios básicos del Estado de derecho.
Es fundamental que cualquier implementación de tecnologías de inteligencia artificial en el ámbito de la justicia penal se someta a un riguroso escrutinio legal y ético, garantizando la transparencia, la rendición de cuentas y el respeto a los derechos individuales.
Referencias
Te puede interesar
El Servicio de Apoyo a la Innovación Docente organizó el primer Encuentro LED de este curso académico para analizar cómo la irrupción de la inteligencia artificial generativa está transformando la educación superior y qué competencias deben seguir siendo irrenunciables en la formación universitaria
Impulsado junto a Comillas Arte, el club reunió el 14 de octubre a diez antiguos alumnos en su primera sesión y celebrará encuentros quincenales en Alberto Aguilera.
Desde el pasado mes de septiembre, SPORT-BETWEEN ha comenzado su andadura con el objetivo de convertir el deporte en una herramienta de desarrollo personal, social y educativo. Impulsado desde el Instituto Universitario de Estudios sobre Migraciones (IUEM) y elDepartamento de Educación, Métodos de Investigación y Evaluación (Facultad de Ciencias Humanas) de la Universidad de Comillas, el proyecto se desarrolla en el marco de los EUPeace Living Peace Labs, espacios de colaboración en los que universidades, entidades sociales y ciudadanía trabajan conjuntamente para promover la paz, la justicia y las sociedades inclusivas.