La supervisión del cumplimiento del Reglamento de inteligencia artificial por las autoridades de vigilancia del mercado

Lorenzo Cotino Hueso

doi:10.36151/RCAP.4.6

Authors

Lorenzo Cotino Hueso Catedrático de Derecho Constitucional. Universidad de Valencia. Valgrai

DOI:

https://doi.org/10.36151/RCAP.4.6

Keywords:

Artificial Intelligence, Artificial Intelligence Regulation, European Union, market surveillance authorities, regulatory oversight

Abstract

This study examines the supervision of artificial intelligence (AI) systems in the European Union under the AI Act, highlighting the role of Market Surveillance Authorities (MSAs). It discusses the general EU and AI-specific regulations applicable, the designation of AI MSAs by Member States and the resources needed to ensure their effectiveness. The article discusses the proactive and reactive activities to be undertaken by the AVMs, including strategic planning, compliance assessment and the imposition of corrective measures for infringements. It highlights the powers of AVMs to access technical documentation and monitor AI testing under real-life conditions. In addition, the varieties of criteria that are taking place in the designation of AI AVMs in different countries are discussed, with the particularities of the Spanish Agency for the Supervision of Artificial Intelligence (AESIA) as AVM in Spain, and the role to be developed by others such as the Spanish Data Protection Agency (AEPD).

Downloads

Download data is not yet available.

References

Álvarez García, Vicente:

— (2020): Las normas técnicas armonizadas (Una peculiar fuente del Derecho europeo), Madrid: Iustel.

— (2024): La aplicación de las normas armonizadas y de las especificaciones comunes

en el ámbito de la inteligencia artificial (artículos 40 y 41 Reglamento).

Álvarez García, Vicente y Tahiri Moreno, Javier (2023): «La regulación de la inteligencia artificial en Europa a través de la técnica armonizadora del nuevo enfoque», Revista General de Derecho Administrativo, 63.

Castillo, José Antonio (2024): «Inteligencia artificial de uso general, modelos fundacionales (y “Chat GPT”) en el Reglamento de inteligencia artificial», en Cotino Hueso, L. y Simón Castellanos, P. (coords.): Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Cízur Menor: Aranzadi La Ley.

CEPD (2024): Statement 3/2024 on data protection authorities’ role in the Artificial Intelligence Act framework, de 16 de julio, https://www.edpb.europa.eu/our-work-tools/our-documents/statements/statement-32024-data-protection-authorities-role-artificial_en [Consulta: 12/10/2024.]

Comisión Europea:

— (s.f. a): The implementation of market surveillance in Europe [en línea], https://single-market-economy.ec.europa.eu/single-market/goods/building-blocks/market-surveillance/organisation_en?prefLang=es. [Consulta: 12/10/2024.]

— (s.f. b): Market surveillance for products [en línea], https://single-market-economy.ec.europa.eu/single-market/goods/building-blocks/market-surveillance_en?prefLang=es. [Consulta: 12/10/2024.]

— (s.f. c): Single Market Compliance Space, European Market and Product Surveillance Information Exchange System for Official Bodies, Consumers and Businesses (ICSMS) [en línea], https://webgate.ec.europa.eu/single-market-compliance-space/market-surveillance. [Consulta: 12/10/2024.]

— (2022): Guía azul sobre la aplicación de la normativa europea relativa a los productos, Bruselas: Comisión Europea, 104.

Consejo General del Poder Judicial (CGPJ) (2024): Informe sobre el impacto del Real Decreto-Ley 6/2023, de 19 de diciembre, por el que se aprueban medidas urgentes para la ejecución del plan de recuperación, transformación y resiliencia en materia de servicio público de la justicia, función pública, régimen local y mecenazgo, en relación con el punto neutro judicial, el control de las herramientas de inteligencia artificial en la administración de justicia y la emisión de actos de juicios “en abierto”, CGPJ, junio.

Comité Europeo de Protección de Datos (CEPD) (2024): Statement 3/2024 on data protection authorities’ role in the Artificial Intelligence Act framework [en línea], https://www.edpb.europa.eu/our-work-tools/our-documents/statements/statement-32024-data-protection-authorities-role-artificial_en. [Consulta: 16/07/2024.]

Cotino Hueso, Lorenzo:

— (2024a): «Alcance y delimitación de los sistemas de alto riesgo en el Reglamento de inteligencia artificial”, Cotino Hueso, L. y Simón Castellanos, P. (coords.): (2024): Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Cízur Menor: Aranzadi La Ley.

— (2024b): «Sandbox, espacios controlados y pruebas en condiciones reales de sistemas de inteligencia artificial en el Reglamento. Medidas para PYMES, startups y microempresas», en Cotino Hueso, L. y Simón Castellanos, P. (coords.): Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Cízur Menor: Aranzadi La Ley.

— (2024c): «El uso jurisdiccional de la inteligencia artificial: habilitación legal, garantías necesarias y la supervisión por el CGPJ», Actualidad Jurídica Iberoamericana, 21, monográfico. https://revista-aji.com/.

— (2024d): «Cómo abordar jurídicamente el impacto de la inteligencia artificial en los derechos fundamentales», en Derecho y Tecnologías, Fundación Ramón Areces, Madrid.

Gobierno de España (s. f.), Marco Estratégico Nacional General para la Vigilancia del Mercado de Productos no alimentarios, (MENVIME) Versión 1.0, España 2022–2025, https://www.consumo.gob.es/es/servicios/publicaciones-programa-editorial/programa-editorial/marco-estrategico-nacional-general-vigilancia-mercado-producto-no-alimenticios [Consulta: 12/06/2024.]

Hernández Peña, Juan Carlos (2024): «La gobernanza y vigilancia del Reglamento de inteligencia artificial: autoridades de vigilancia del mercado, Comisión y las diversas entidades», en Cotino Hueso, L. y Simón Castellanos, P. (coords.): Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Cízur Menor: Aranzadi La Ley.

López-Tarruella Martínez, A. (2024): «Vías de recurso para los particulares en el reglamento de inteligencia artificial”, en Cotino Hueso, L. y Simón Castellanos, P. (coords.): Tratado sobre el Reglamento … cit.

Palma Ortigosa, Adrián:

— (2024a): «La evaluación de la conformidad en el diseño y producción de sistemas basados en IA en el contexto del “Nuevo Marco Legislativo”», en Cotino Hueso, L. y Simón Castellanos, P. (coords.): Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Cízur Menor: Aranzadi La Ley.

— (2024b): «¿Quién es quién en el Reglamento Europeo de Inteligencia Artificial? Las autoridades notificantes y los organismos notificados», Actualidad Jurídica Iberoamericana, 21, 598-617. https://revista-aji.com/. [Consulta: 12/06/2024.]

Ramón Fernández, Francisca (2024): “Sistemas de gestión de calidad, documentación técnica y conservación en el Reglamento”, Cotino Hueso, L. y Simó Castellanos, P. (coords.), Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Aranzadi La Ley, Cízur Menor.

Vestri, Gabriele (2024): «Acceso a documentación y confidencialidad en el Reglamento de inteligencia artificial», en Cotino Hueso, L. y Simón Castellanos, P. (coords.): Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea, Cízur Menor: Aranzadi La Ley.

Unión Europea (2017): Buenas prácticas de vigilancia del mercado, enero de 2017, ADCO, Ref. Ares(2017)2337704 – 06/05/2017, https://www.aragon.es/documents/20127/31455048/Gu%C3%ADa+de+buenas+pr%C3%A1cticas+de+vigilancia+del+mercado+UE.pdf/6de2d204-b386-e3e7-539d-322741d667c4?t=1579769712429 [Consulta: 12/06/2024.]