Predecir delitos con IA: ¿avance o amenaza jurídica?
El uso de datos sin consentimiento para predecir delitos plantea interrogantes constitucionales en la UE.
El Ministerio de Justicia del Reino Unido ha iniciado el desarrollo de un sistema de inteligencia artificial destinado a predecir delitos violentos, particularmente homicidios, antes de que ocurran. Este proyecto, inicialmente denominado "Proyecto de predicción de homicidios" y posteriormente rebautizado como "Intercambio de datos para mejorar la evaluación de riesgos", utiliza algoritmos que analizan datos personales sensibles de entre 100.000 y 500.000 personas, incluyendo información sobre salud mental, adicciones, autolesiones y discapacidades .
La iniciativa ha generado críticas por parte de organizaciones de derechos civiles, que advierten sobre el riesgo de discriminación algorítmica y la posible criminalización de individuos sin antecedentes penales . Además, el uso de datos sin el consentimiento explícito de los afectados plantea serias dudas sobre su compatibilidad con el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, que establece estrictas condiciones para el tratamiento de datos personales sensibles.
La aplicación de sistemas predictivos en el ámbito penal requiere un equilibrio entre la seguridad pública y la protección de los derechos fundamentales. La falta de transparencia en los criterios algorítmicos y la posibilidad de sesgos inherentes en los datos utilizados podrían socavar la confianza en el sistema judicial y vulnerar principios básicos del Estado de derecho.
Es fundamental que cualquier implementación de tecnologías de inteligencia artificial en el ámbito de la justicia penal se someta a un riguroso escrutinio legal y ético, garantizando la transparencia, la rendición de cuentas y el respeto a los derechos individuales.
Referencias
Te puede interesar
El nuevo Plan I+M contempla itinerarios diferenciados y en etapas sucesivas
La EUEF San Juan de Dios - Comillas lanza un nuevo episodio de su podcast "Comillas te Cuida", donde María José Alonso, enfermera del Equipo Médula del Centro de Transfusión de la Comunidad de Madrid, nos habla sobre el proceso de donación, su importancia y cómo puedes formar parte de esta red que salva vidas.
Aunque alguno de nuestros alumni llevan más de ocho años en contacto, este encuentro sirve como inauguración de esta nueva era con Comillas Alumni