Este artículo investiga las oportunidades y riesgos del uso de la inteligencia artificial (IA) por parte de las administraciones públicas para gestionar las ayudas sujetas a verificación de recursos, como las prestaciones de ingreso mínimo (MIB, por sus siglas en inglés) y la asistencia por desempleo (UA, por sus siglas en inglés). Esto abarca desde proporcionar información a las personas, pasando por determinar la elegibilidad basándose en criterios legales predeterminados e identificar pagos indebidos, hasta notificar a las personas sobre su estado de elegibilidad.

Para estudiar las oportunidades y riesgos del uso de la IA en la gestión de estos beneficios el documento recurre a investigaciones documentales, encuestas abiertas y entrevistas semiestructuradas.

El análisis muestra que la IA se puede utilizar durante todo el proceso de gestión de beneficios sujetos a verificación de recursos, como los beneficios de ingreso mínimo y la asistencia por desempleo: desde proporcionar información a los beneficiarios potenciales, hasta determinar la elegibilidad de acuerdo con criterios legales predeterminados. Esto trae importantes oportunidades, así como retos para la protección social. Por ejemplo, el uso de IA para la gestión de MIB o UA puede mejorar la aceptación al inscribir automáticamente a las personas en programas o completar formularios previamente. Sin embargo, si no se diseñan o implementan bien, se puede lograr el efecto contrario, con el riesgo de que algunos grupos queden rezagados. Otro caso de ejemplo, lo conforman los grupos con bajas habilidades digitales o grupos con acceso limitado a dispositivos digitales o Internet en casa. De manera similar, si bien la toma de decisiones basada en datos de la IA puede mejorar la precisión y la equidad de la evaluación de elegibilidad basada en criterios legales predefinidos, también puede sistematizar imprecisiones y sesgos. El proceso de toma de decisiones con respecto a la adopción de IA para la gestión de MIB y UA debe considerar si esta tecnología es la solución óptima para el problema en cuestión y garantizar que los sistemas de IA utilizados sean confiables. Esto incluye mantener la intervención y supervisión humana, la transparencia y la explicabilidad, incluso en cómo se tratan los falsos positivos y los falsos negativos, y una buena gobernanza de los datos de los sistemas de IA utilizados.