Un profesor de Comillas ICAI impulsa un modelo de IA más ético y transparente desde el MIT
Rafael Palacios impulsa un modelo de IA más ético y transparente desde el MIT
Rafael Palacios, director de la Oficina de Inteligencia Artificial de Comillas y profesor de Comillas ICAI, ha participado en el desarrollo de una nueva arquitectura de IA centrada en la equidad, la privacidad y la transparencia. El proyecto, denominado FairRAG, ha sido desarrollado en el laboratorio CSAIL del Instituto Tecnológico de Massachusetts (MIT), en colaboración con un equipo internacional de investigadores.
En el trabajo, liderado por el profesor Amar Gupta, además de Palacios, participaron la investigadora Rashmi Nagpal y el estudiante Unyimeabasi C. Usua. Los resultados, publicados en la revista Applied Sciences, muestran mejoras significativas en métricas de equidad y rendimiento, especialmente en contextos sensibles como los servicios financieros.
FairRAG propone una alternativa a los modelos tradicionales de predicción de abandono de clientes, incorporando mecanismos de privacidad diferencial y explicabilidad mediante técnicas de recuperación aumentada por generación (RAG, en sus siglas en inglés). Esta combinación permite no solo mejorar la precisión de las predicciones, sino también ofrecer explicaciones comprensibles sobre cómo se toman las decisiones algorítmicas.
La investigación ha contado con el apoyo de los consorcios industriales Future of Data y FinTechAI, vinculados al MIT. El equipo prevé ampliar el modelo a otros tipos de datos y métricas, con el objetivo de seguir avanzando hacia una inteligencia artificial más justa y responsable.
También puede interesarte
Marina Saguar Urquiola se gradúa con honores en Nueva York tras una brillante trayectoria internacional vinculada al desarrollo sostenible
Los días 2 y 3 de junio, una delegación de EUPeace participó en el tercer taller FOREU4ALL, celebrado en el Parlamento Europeo en Estrasburgo, bajo el título «From Campuses to Communities». El encuentro reunió a alianzas de universidades europeas para reflexionar sobre cómo fortalecer la participación, la inclusión y el sentido de pertenencia en la educación superior.
El Club de alumnos EUPeace de Comillas ha sido reconocido como la Asociación Estudiantil más Comprometida en la IV Gala Comillas Comunidad. El premio destaca la labor del Club en la promoción de la participación estudiantil, los valores europeos y el compromiso con una comunidad universitaria más inclusiva y abierta.