El problema de la interpretabilidad de la Inteligencia Artificial y su impacto en la Administración Pública

Resumen

La Inteligencia Artificial (IA) es una de las tecnologías más disruptivas y transformadoras de la actualidad. Está cada vez más presente en todos los ámbitos, y este uso masivo de la tecnología nos está cambiando: está cambiando nuestra formación, nuestro modo de trabajar, y nuestra forma de relacionarnos entre nosotros y con nuestro entorno. Por supuesto, la Administración Pública no puede (ni debe) ser ajena a todos estos cambios.

En un futuro no muy lejano, gran parte de las decisiones que afectan a los ciudadanos estarán tomadas por algoritmos inteligentes. En este escenario la interpretabilidad de los algoritmos de IA será imprescindible para garantizar su buen uso en la Administración Pública.

Este artículo pretende explicar qué es la interpretabilidad de la IA y por qué es importante, cómo se está abordando esta cuestión desde el punto de vista técnico, cuál es el papel de la regulación en la interpretabilidad de la IA y cuáles son las perspectivas de futuro, sobre todo en el ámbito de la Administración Pública. Para dar un enfoque lo más completo posible, se explicarán algunos fundamentos básicos de la tecnología involucrada y del grado de integración actual de la IA en Europa y en nuestro país.