Nuevo proyecto de LO de supervisión de sistemas de inteligencia artificial
Regulación europea y control de la IA
Un nuevo marco jurídico para la inteligencia artificial
El Consejo de Ministros ha aprobado el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la Inteligencia Artificial, norma destinada a completar el desarrollo interno del Reglamento Europeo de Inteligencia Artificial, en vigor desde agosto de 2024.
Aunque el Reglamento europeo resulta directamente aplicable en todos los Estados miembros, era necesario establecer mecanismos nacionales de supervisión administrativa, coordinación institucional y potestad sancionadora. El proyecto español responde a esa necesidad organizativa y regulatoria.
La futura ley pretende garantizar que el diseño, comercialización y utilización de sistemas de inteligencia artificial se desarrollen conforme a principios de seguridad jurídica, supervisión humana y protección de derechos fundamentales.
La iniciativa se enmarca además dentro de la estrategia europea para consolidar un modelo regulatorio común frente al crecimiento acelerado de la inteligencia artificial generativa y los sistemas automatizados de toma de decisiones.
Distribución competencial y supervisión sectorial
El proyecto establece una estructura de gobernanza descentralizada. Las autoridades sectoriales existentes mantendrán competencias respecto de productos sometidos a regulación específica, como maquinaria industrial, dispositivos médicos o vehículos.
Sin embargo, los sistemas de inteligencia artificial no vinculados a normativa sectorial quedarán bajo la supervisión de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), organismo creado para coordinar el control administrativo de esta tecnología.
La Agencia Española de Protección de Datos asumirá funciones relacionadas con tratamientos automatizados y protección de datos personales. El Consejo General del Poder Judicial ejercerá competencias en aquellos supuestos vinculados a sistemas utilizados en la Administración de Justicia.
El texto incorpora además mecanismos de cooperación interadministrativa y coordinación con las instituciones europeas encargadas de aplicar el Reglamento.
Sistemas prohibidos y tutela de derechos fundamentales
El Reglamento europeo adopta un sistema de clasificación basado en riesgos. Los sistemas considerados incompatibles con los valores fundamentales de la Unión Europea quedan prohibidos.
Entre ellos figuran las herramientas que utilizan técnicas subliminales destinadas a alterar el comportamiento humano sin consentimiento, así como los sistemas que explotan vulnerabilidades derivadas de la edad, discapacidad o situación socioeconómica.
También quedan prohibidos los sistemas de categorización biométrica capaces de inferir ideología política, orientación sexual o religión mediante análisis automatizados.
Especial relevancia adquiere la prohibición de sistemas generadores de “deepfakes” sexuales. La medida fue promovida por España y Francia tras diversos episodios relacionados con la difusión de imágenes falsas de contenido sexual generadas mediante inteligencia artificial.
La regulación pretende proteger derechos fundamentales como la intimidad, el honor y la propia imagen frente a prácticas tecnológicas especialmente invasivas.
Potestad sancionadora y proporcionalidad
La ley regula un régimen sancionador propio conforme a los principios de legalidad y tipicidad establecidos en la Constitución y desarrollados por la Ley 40/2015.
Las infracciones se clasifican en leves, graves y muy graves. Las multas máximas previstas alcanzan los 35 millones de euros o el 7 % del volumen global de negocio anual de la empresa infractora.
El proyecto incorpora además criterios de graduación relacionados con la intencionalidad, reincidencia, duración de la conducta y gravedad del perjuicio causado. También se prevén mecanismos de reducción vinculados al pronto pago y a la adopción voluntaria de medidas correctoras.
La norma introduce referencias específicas a pymes y startups para evitar que las cargas regulatorias obstaculicen el desarrollo empresarial y la innovación tecnológica.
Sandboxes regulatorios y sector público
El texto regula los “sandboxes” de inteligencia artificial previstos en el Reglamento europeo. Estos espacios controlados permitirán desarrollar proyectos tecnológicos innovadores bajo supervisión administrativa y con garantías jurídicas.
La AESIA será responsable de coordinar estos entornos de pruebas, aunque podrán crearse otros espacios sectoriales vinculados a diferentes autoridades supervisoras.
Además, la norma impulsa el uso de inteligencia artificial en el sector público mediante inventarios de sistemas automatizados, programas de formación para empleados públicos y la creación de la figura del delegado de IA.
