Este informe presenta los resultados de experimentos en profundidad sobre los riesgos asociados al diseño, despliegue y uso de Inteligencia Artificial (IA) generativa como potencial tecnología al servicio de la violencia de género. Evalúa el posible impacto de la IA al permitir la creación de falsos medios realistas, sesgos en los resultados, campañas de acoso automatizadas y la capacidad de construir historias ficticias. Se abordan las ideas extraídas de los experimentos realizados sobre cómo se generan y pueden generarse plantillas de ciberacoso basadas en el género.

Para ello se recurre al análisis de literatura gris, el cual articula la base metodológica de este documento.

Este análisis permite extraer las medidas que deben poner en marcha las empresas de IA generativa y las empresas tecnológicas que les sirven de plataforma, los reguladores y los responsables políticos, las organizaciones de la sociedad civil y los investigadores independientes, así como los usuarios. En el caso de los distribuidores de contenido se les anima a crear soluciones proactivas para identificar contenidos falsificados, incluida la comprobación automática de marcas de agua, mejorando la identificación de contenidos. Respecto a los generadores de contenido estos deben fomentar y apoyar observatorios e iniciativas independientes para supervisar y hacer frente a las campañas de acoso coordinadas y automatizadas. A los formuladores de políticas se les incita a revisar las leyes y normativas relacionadas con los generadores y distribuidores de contenidos para que estén en consonancia con las normas internacionales de derechos humanos, a fin de garantizar la transparencia, la rendición de cuentas, la diligencia debida y la capacitación de los usuarios.