TY  - BOOK
AU  - Bernardo, Vítor
AU  - Attoresi, Massimo
AU  - Lareo, Xabier
AU  - Velasco, Luis
ED  - Supervisor Europeo de Protección de Datos
TI  - EDPS TechDispatch #2/2023: Explainable artificial intelligence
SN  - 978-92-9242-715-3
SN  - 2599-932X
PY  - 2023///
CY  - Luxemburgo
PB  - Oficina de publicaciones de la Unión Europea
KW  - Inteligencia Artificial
KW  - IA
KW  - inteligencia artificial explicable
KW  - XAI
KW  - caja blanca
KW  - caja negra
KW  - white box
KW  - black box
KW  - protección de datos
KW  - transparencia
KW  - riesgos
KW  - datos personales
N2  - En el complejo ámbito de los sistemas de inteligencia artificial (IA), a menudo ni siquiera los proveedores de estos sistemas son capaces de explicar las decisiones y los resultados de los sistemas que han construido. Este fenómeno suele denominarse efecto "caja negra", el cual podría conducir a una confianza equivocada o a una dependencia excesiva de los sistemas de IA.

La Inteligencia Artificial Explicable (XAI) es la capacidad de los sistemas de IA para ofrecer explicaciones claras y comprensibles de sus acciones y decisiones. Su objetivo principal es hacer que el comportamiento de estos sistemas sea comprensible para los seres humanos dilucidando los mecanismos subyacentes de sus procesos de toma de decisiones.

A partir del análisis de literatura gris, este informe plantea en qué consiste esta tecnología y explica los modelos autointerpretables (o de "caja blanca") en contraposición al efecto "caja negra". Así mismo se apunta a su capacidad para proporcionar información transparente sobre las decisiones de la IA contribuyendo a garantizar el cumplimiento de varios principios de protección de datos personales, en particular la transparencia, la responsabilidad y la equidad. Los riesgos del empleo de esta tecnología también se recogen en este documento.

XAI ofrece a los usuarios una visión comprensible del tratamiento de sus datos personales al revelar los motivos que subyacen a las decisiones de la IA. La transparencia que ofrece no solo refuerza la confianza entre organizaciones y usuarios, sino que también está en consonancia con los principios básicos de la protección de datos
UR  - https://op.europa.eu/en/publication-detail/-/publication/59e38fb7-8436-11ee-99ba-01aa75ed71a1
ED  - Supervisor Europeo de Protección de Datos
ER  -