La Designación Formal de los Modelos de Riesgo Sistémico

La Comisión Europea ha hecho pública esta semana la primera lista de proveedores de IA de propósito general cuyos sistemas han sido catalogados como poseedores de un "riesgo sistémico". Conviene recordar que un modelo fundacional se define como un sistema que se auto-supervisa y entrena aprendiendo de datos masivos, permitiendo su adaptación a múltiples tareas sin necesidad de ser reentrenado desde cero para cada aplicación. Bajo la AI Act, la IA de propósito general —aquella capaz de realizar una amplia gama de funciones distintas y de integrarse en innumerables aplicaciones verticales— queda sujeta a un régimen de control estricto cuando su potencia de cálculo sugiere un impacto transversal en la seguridad de la Unión.

Este hito marca el despliegue de una gobernanza proactiva, entendida como la implementación anticipada y diligente de sistemas de control y auditoría interna para identificar y gestionar los riesgos antes de que se materialicen. La clasificación no es un mero trámite; obliga a los proveedores a realizar evaluaciones continuas de modelos, mitigar riesgos cibernéticos y reportar cualquier incidente grave de forma inmediata. El legislador busca evitar que la opacidad técnica de estos modelos masivos derive en vulnerabilidades sociales, exigiendo una trazabilidad total en los procesos de optimización algorítmica.

La regulación no busca frenar la potencia del cálculo, sino asegurar que la magnitud del impacto social de los modelos fundacionales sea proporcional a la responsabilidad legal y social de sus desarrolladores.