Un profesor de Comillas ICAI impulsa un modelo de IA más ético y transparente desde el MIT

Rafael Palacios, director de la Oficina de Inteligencia Artificial de Comillas y profesor de Comillas ICAI, ha participado en el desarrollo de una nueva arquitectura de IA centrada en la equidad, la privacidad y la transparencia. El proyecto, denominado FairRAG, ha sido desarrollado en el laboratorio CSAIL del Instituto Tecnológico de Massachusetts (MIT), en colaboración con un equipo internacional de investigadores.

En el trabajo, liderado por el profesor Amar Gupta, además de Palacios, participaron la investigadora Rashmi Nagpal y el estudiante Unyimeabasi C. Usua. Los resultados, publicados en la revista Applied Sciences, muestran mejoras significativas en métricas de equidad y rendimiento, especialmente en contextos sensibles como los servicios financieros.

FairRAG propone una alternativa a los modelos tradicionales de predicción de abandono de clientes, incorporando mecanismos de privacidad diferencial y explicabilidad mediante técnicas de recuperación aumentada por generación (RAG, en sus siglas en inglés). Esta combinación permite no solo mejorar la precisión de las predicciones, sino también ofrecer explicaciones comprensibles sobre cómo se toman las decisiones algorítmicas.

La investigación ha contado con el apoyo de los consorcios industriales Future of Data y FinTechAI, vinculados al MIT. El equipo prevé ampliar el modelo a otros tipos de datos y métricas, con el objetivo de seguir avanzando hacia una inteligencia artificial más justa y responsable.