Bernardo, Vítor
Supervisor Europeo de Protección de Datos
EDPS TechDispatch #2/2023 . Explainable artificial intelligence / Supervisor Europeo de Protección de Datos ; Bernardo, Vítor ; Attoresi, Massimo (ed.) ; Lareo, Xabier (ed.) ; Velasco, Luis (ed.) .-- Luxemburgo : Oficina de publicaciones de la Unión Europea 2023 .-- 23 p. ; 1 documento PDF
En el complejo ámbito de los sistemas de inteligencia artificial (IA), a menudo ni siquiera los proveedores de estos sistemas son capaces de explicar las decisiones y los resultados de los sistemas que han construido. Este fenómeno suele denominarse efecto "caja negra", el cual podría conducir a una confianza equivocada o a una dependencia excesiva de los sistemas de IA.
La Inteligencia Artificial Explicable (XAI) es la capacidad de los sistemas de IA para ofrecer explicaciones claras y comprensibles de sus acciones y decisiones. Su objetivo principal es hacer que el comportamiento de estos sistemas sea comprensible para los seres humanos dilucidando los mecanismos subyacentes de sus procesos de toma de decisiones.
A partir del análisis de literatura gris, este informe plantea en qué consiste esta tecnología y explica los modelos autointerpretables (o de "caja blanca") en contraposición al efecto "caja negra". Así mismo se apunta a su capacidad para proporcionar información transparente sobre las decisiones de la IA contribuyendo a garantizar el cumplimiento de varios principios de protección de datos personales, en particular la transparencia, la responsabilidad y la equidad. Los riesgos del empleo de esta tecnología también se recogen en este documento.
XAI ofrece a los usuarios una visión comprensible del tratamiento de sus datos personales al revelar los motivos que subyacen a las decisiones de la IA. La transparencia que ofrece no solo refuerza la confianza entre organizaciones y usuarios, sino que también está en consonancia con los principios básicos de la protección de datos.
978-92-9242-715-3 doi: 10.2804/132319
2599-932X
Inteligencia Artificial
IA
inteligencia artificial explicable
XAI
caja blanca
caja negra
white box
black box
protección de datos
transparencia
riesgos
datos personales
Attoresi, Massimo
Lareo, Xabier
Velasco, Luis
Supervisor Europeo de Protección de Datos
EDPS TechDispatch #2/2023 . Explainable artificial intelligence / Supervisor Europeo de Protección de Datos ; Bernardo, Vítor ; Attoresi, Massimo (ed.) ; Lareo, Xabier (ed.) ; Velasco, Luis (ed.) .-- Luxemburgo : Oficina de publicaciones de la Unión Europea 2023 .-- 23 p. ; 1 documento PDF
En el complejo ámbito de los sistemas de inteligencia artificial (IA), a menudo ni siquiera los proveedores de estos sistemas son capaces de explicar las decisiones y los resultados de los sistemas que han construido. Este fenómeno suele denominarse efecto "caja negra", el cual podría conducir a una confianza equivocada o a una dependencia excesiva de los sistemas de IA.
La Inteligencia Artificial Explicable (XAI) es la capacidad de los sistemas de IA para ofrecer explicaciones claras y comprensibles de sus acciones y decisiones. Su objetivo principal es hacer que el comportamiento de estos sistemas sea comprensible para los seres humanos dilucidando los mecanismos subyacentes de sus procesos de toma de decisiones.
A partir del análisis de literatura gris, este informe plantea en qué consiste esta tecnología y explica los modelos autointerpretables (o de "caja blanca") en contraposición al efecto "caja negra". Así mismo se apunta a su capacidad para proporcionar información transparente sobre las decisiones de la IA contribuyendo a garantizar el cumplimiento de varios principios de protección de datos personales, en particular la transparencia, la responsabilidad y la equidad. Los riesgos del empleo de esta tecnología también se recogen en este documento.
XAI ofrece a los usuarios una visión comprensible del tratamiento de sus datos personales al revelar los motivos que subyacen a las decisiones de la IA. La transparencia que ofrece no solo refuerza la confianza entre organizaciones y usuarios, sino que también está en consonancia con los principios básicos de la protección de datos.
978-92-9242-715-3 doi: 10.2804/132319
2599-932X
Inteligencia Artificial
IA
inteligencia artificial explicable
XAI
caja blanca
caja negra
white box
black box
protección de datos
transparencia
riesgos
datos personales
Attoresi, Massimo
Lareo, Xabier
Velasco, Luis