En el complejo ámbito de los sistemas de inteligencia artificial (IA), a menudo ni siquiera los proveedores de estos sistemas son capaces de explicar las decisiones y los resultados de los sistemas que han construido. Este fenómeno suele denominarse efecto "caja negra", el cual podría conducir a una confianza equivocada o a una dependencia excesiva de los sistemas de IA.

La Inteligencia Artificial Explicable (XAI) es la capacidad de los sistemas de IA para ofrecer explicaciones claras y comprensibles de sus acciones y decisiones. Su objetivo principal es hacer que el comportamiento de estos sistemas sea comprensible para los seres humanos dilucidando los mecanismos subyacentes de sus procesos de toma de decisiones.

A partir del análisis de literatura gris, este informe plantea en qué consiste esta tecnología y explica los modelos autointerpretables (o de "caja blanca") en contraposición al efecto "caja negra". Así mismo se apunta a su capacidad para proporcionar información transparente sobre las decisiones de la IA contribuyendo a garantizar el cumplimiento de varios principios de protección de datos personales, en particular la transparencia, la responsabilidad y la equidad. Los riesgos del empleo de esta tecnología también se recogen en este documento.

XAI ofrece a los usuarios una visión comprensible del tratamiento de sus datos personales al revelar los motivos que subyacen a las decisiones de la IA. La transparencia que ofrece no solo refuerza la confianza entre organizaciones y usuarios, sino que también está en consonancia con los principios básicos de la protección de datos.