La Supervisión de los Modelos Fundacionales con Riesgo Sistémico

La Comisión Europea ha iniciado formalmente el procedimiento de evaluación para determinar si tres nuevos modelos fundacionales deben ser catalogados como poseedores de un "riesgo sistémico". Conviene recordar que un modelo fundacional se define como un sistema que se auto-supervisa y entrena aprendiendo de datos masivos, permitiendo su adaptación a múltiples tareas sin necesidad de ser reentrenado desde cero para cada aplicación. Bajo la AI Act, la IA de propósito general —aquella capaz de realizar una amplia gama de funciones distintas y de integrarse en innumerables aplicaciones verticales— se sitúa bajo un escrutinio especial cuando su capacidad de cómputo supera los 1025 FLOPS, u operaciones de punto flotante por segundo, umbral a partir del cual se presume un impacto transversal en la seguridad de la Unión.

Este hito marca el despliegue de una gobernanza proactiva, entendida como la implementación anticipada y diligente de sistemas de control y auditoría interna para identificar y gestionar los riesgos antes de que se materialicen. La clasificación como "sistémico" no es meramente nominal; obliga a los proveedores a realizar evaluaciones continuas, mitigar riesgos cibernéticos adversos y reportar incidentes graves a la Oficina de IA. El legislador europeo busca evitar que la opacidad técnica de estos modelos masivos derive en vulnerabilidades sociales imprevistas, exigiendo una trazabilidad total en los datos de entrenamiento y en los procesos de optimización algorítmica.

La regulación no busca frenar la potencia del cálculo, sino asegurar que la magnitud del impacto social de los modelos fundacionales sea proporcional a la responsabilidad legal y social de sus desarrolladores.