Un profesor de Comillas ICAI impulsa un modelo de IA más ético y transparente desde el MIT
Rafael Palacios impulsa un modelo de IA más ético y transparente desde el MIT
Rafael Palacios, director de la Oficina de Inteligencia Artificial de Comillas y profesor de Comillas ICAI, ha participado en el desarrollo de una nueva arquitectura de IA centrada en la equidad, la privacidad y la transparencia. El proyecto, denominado FairRAG, ha sido desarrollado en el laboratorio CSAIL del Instituto Tecnológico de Massachusetts (MIT), en colaboración con un equipo internacional de investigadores.
En el trabajo, liderado por el profesor Amar Gupta, además de Palacios, participaron la investigadora Rashmi Nagpal y el estudiante Unyimeabasi C. Usua. Los resultados, publicados en la revista Applied Sciences, muestran mejoras significativas en métricas de equidad y rendimiento, especialmente en contextos sensibles como los servicios financieros.
FairRAG propone una alternativa a los modelos tradicionales de predicción de abandono de clientes, incorporando mecanismos de privacidad diferencial y explicabilidad mediante técnicas de recuperación aumentada por generación (RAG, en sus siglas en inglés). Esta combinación permite no solo mejorar la precisión de las predicciones, sino también ofrecer explicaciones comprensibles sobre cómo se toman las decisiones algorítmicas.
La investigación ha contado con el apoyo de los consorcios industriales Future of Data y FinTechAI, vinculados al MIT. El equipo prevé ampliar el modelo a otros tipos de datos y métricas, con el objetivo de seguir avanzando hacia una inteligencia artificial más justa y responsable.
También puede interesarte
El equipo de la Facultad de Derecho (Comillas ICADE) se impuso en la final a Adriana Pacios y Fabiana Sánchez, de la Facultad de Ciencias Humanas y Sociales (Comillas CIHS), en un debate sobre el papel de las competencias y los contenidos teóricos en el sistema educativo
Nuestra alumna Emily del Carmen Quispe Cullampe nos ofrece dos interesantes entradas, bajo una misma línea de investigación: IA y Derecho Canónico.
El profesor y vicedecano de la Facultad de Derecho Canónico, Miguel Campo, ha participado en la II Jornada con una intervención en torno al "Derecho a los sacramentos y persona con discapacidad"