Predecir delitos con IA: ¿avance o amenaza jurídica?
El uso de datos sin consentimiento para predecir delitos plantea interrogantes constitucionales en la UE.
El Ministerio de Justicia del Reino Unido ha iniciado el desarrollo de un sistema de inteligencia artificial destinado a predecir delitos violentos, particularmente homicidios, antes de que ocurran. Este proyecto, inicialmente denominado "Proyecto de predicción de homicidios" y posteriormente rebautizado como "Intercambio de datos para mejorar la evaluación de riesgos", utiliza algoritmos que analizan datos personales sensibles de entre 100.000 y 500.000 personas, incluyendo información sobre salud mental, adicciones, autolesiones y discapacidades .
La iniciativa ha generado críticas por parte de organizaciones de derechos civiles, que advierten sobre el riesgo de discriminación algorítmica y la posible criminalización de individuos sin antecedentes penales . Además, el uso de datos sin el consentimiento explícito de los afectados plantea serias dudas sobre su compatibilidad con el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, que establece estrictas condiciones para el tratamiento de datos personales sensibles.
La aplicación de sistemas predictivos en el ámbito penal requiere un equilibrio entre la seguridad pública y la protección de los derechos fundamentales. La falta de transparencia en los criterios algorítmicos y la posibilidad de sesgos inherentes en los datos utilizados podrían socavar la confianza en el sistema judicial y vulnerar principios básicos del Estado de derecho.
Es fundamental que cualquier implementación de tecnologías de inteligencia artificial en el ámbito de la justicia penal se someta a un riguroso escrutinio legal y ético, garantizando la transparencia, la rendición de cuentas y el respeto a los derechos individuales.
Referencias
Te puede interesar
El Club Comillas Alumni de Ciberseguridad y Privacidad analiza su papel.
El profesor de la Facultad de Teología firmará ejemplares de su última obra Teología de la Movilidad Humana. De la hospitalidad al derecho a no tener que emigrar.