EDPS TechDispatch #2/2023 . Explainable artificial intelligence / Supervisor Europeo de Protección de Datos ; Bernardo, Vítor ; Attoresi, Massimo (ed.) ; Lareo, Xabier (ed.) ; Velasco, Luis (ed.)
.-- Luxemburgo : Oficina de publicaciones de la Unión Europea 2023
.-- 23 p. ; 1 documento PDF
En el complejo ámbito de los sistemas de inteligencia artificial (IA), a menudo ni siquiera los proveedores de estos sistemas son capaces de explicar las decisiones y los resultados de los sistemas que han construido. Este fenómeno suele denominarse efecto "caja negra", el cual podría conducir a una confianza equivocada o a una dependencia excesiva de los sistemas de IA.
La Inteligencia Artificial Explicable (XAI) es la capacidad de los sistemas de IA para ofrecer explicaciones claras y comprensibles de sus acciones y decisiones. Su objetivo principal es hacer que el comportamiento de estos sistemas sea comprensible para los seres humanos dilucidando los mecanismos subyacentes de sus procesos de toma de decisiones.
A partir del análisis de literatura gris, este informe plantea en qué consiste esta tecnología y explica los modelos autointerpretables (o de "caja blanca") en contraposición al efecto "caja negra". Así mismo se apunta a su capacidad para proporcionar información transparente sobre las decisiones de la IA contribuyendo a garantizar el cumplimiento de varios principios de protección de datos personales, en particular la transparencia, la responsabilidad y la equidad. Los riesgos del empleo de esta tecnología también se recogen en este documento.
XAI ofrece a los usuarios una visión comprensible del tratamiento de sus datos personales al revelar los motivos que subyacen a las decisiones de la IA. La transparencia que ofrece no solo refuerza la confianza entre organizaciones y usuarios, sino que también está en consonancia con los principios básicos de la protección de datos.
978-92-9242-715-3 doi: 10.2804/132319
2599-932X
Inteligencia Artificial
IA inteligencia artificial explicable XAI caja blanca caja negra white box black box protección de datos transparencia riesgos datos personales