El Riesgo Bancario de Explicación

La Inteligencia Artificial aporta numerosas ventajas, pero también riesgos novedosos, como la obligación de que las decisiones adoptadas por sistemas opacos de aprendizaje automático y redes neuronales profundas sean explicadas adecuadamente a los humanos. Esta obra ofrece una visión poliédrica del tema, que integra el marco legal de la Protección de Datos y la Inteligencia Artificial, la experiencia de los ingenieros de sistemas, las contribuciones académicas de la comunidad computacional y la gestión de riesgos bancarios según Basilea III y el Reglamento DORA, proponiendo la idea de los "Cinco Faros" como modelo estructural de explicación en orden a reforzar la protección del ciudadano frente a la máquina. En lugar de tratar la explicabilidad como una única explicación suministrada al final de un proceso automatizado, este modelo establece una secuencia de explicaciones previas, cada una de ellas dirigida a operadores capaces de comprender y validar aspectos complejos del comportamiento del sistema. Esta estructura garantiza que la explicación que finalmente se proporciona al cliente esté respaldada por capas anteriores de responsabilidad técnica, organizativa y supervisora.