La Designación Formal de los Modelos de Riesgo Sistémico
La Oficina de IA activa los protocolos de supervisión reforzada sobre los modelos fundacionales que superan los umbrales de computación crítica establecidos por la AI Act.
La Comisión Europea ha hecho pública esta semana la primera lista de proveedores de IA de propósito general cuyos sistemas han sido catalogados como poseedores de un "riesgo sistémico". Conviene recordar que un modelo fundacional se define como un sistema que se auto-supervisa y entrena aprendiendo de datos masivos, permitiendo su adaptación a múltiples tareas sin necesidad de ser reentrenado desde cero para cada aplicación. Bajo la AI Act, la IA de propósito general —aquella capaz de realizar una amplia gama de funciones distintas y de integrarse en innumerables aplicaciones verticales— queda sujeta a un régimen de control estricto cuando su potencia de cálculo sugiere un impacto transversal en la seguridad de la Unión.
Este hito marca el despliegue de una gobernanza proactiva, entendida como la implementación anticipada y diligente de sistemas de control y auditoría interna para identificar y gestionar los riesgos antes de que se materialicen. La clasificación no es un mero trámite; obliga a los proveedores a realizar evaluaciones continuas de modelos, mitigar riesgos cibernéticos y reportar cualquier incidente grave de forma inmediata. El legislador busca evitar que la opacidad técnica de estos modelos masivos derive en vulnerabilidades sociales, exigiendo una trazabilidad total en los procesos de optimización algorítmica.
La regulación no busca frenar la potencia del cálculo, sino asegurar que la magnitud del impacto social de los modelos fundacionales sea proporcional a la responsabilidad legal y social de sus desarrolladores.
Referencias
Te puede interesar
Madrid, España – En un momento crucial para la regulación digital en Europa, la firma CMS Albiñana & Suárez de Lezo y la Universidad Pontificia Comillas han lanzado el Observatorio de Transformación Digital CMS Comillas, una iniciativa pionera que aspira a convertirse en el centro de referencia para el estudio del impacto legal de la digitalización.
El TJUE refuerza las garantías del ciudadano frente al tratamiento de macrodatos que, bajo una apariencia de anonimato, permiten la re-identificación mediante técnicas de IA.
La Comisión Europea aprueba los nuevos estándares de interoperabilidad para contratos inteligentes dentro de la Infraestructura Europea de Servicios Blockchain.