Este artículo examina la interacción entre la inteligencia artificial (IA) y la ciberseguridad en base a los futuros requisitos normativos sobre la seguridad de los sistemas de IA, centrándose específicamente en la solidez de los sistemas de IA de alto riesgo frente a los ciberataques en el contexto de la Ley de IA de la Unión Europea. El documento identifica y analiza tres retos: la diversidad y complejidad de las tecnologías de IA, la evaluación de los riesgos específicos de la IA y el desarrollo de sistemas de IA que sean seguros por diseño. La contribución del texto es doble: por una parte, proporcionar una visión general de las prácticas de ciberseguridad de la IA y, por otra, identificar las lagunas en los enfoques actuales de la evaluación de la conformidad de la seguridad para los sistemas de IA.

El documento fundamenta sus bases en la citación de textos elaborados por fuentes de autoridad, que abarcan desde expertos e investigadores a instituciones internacionales, como la Comisión Europea o la OCDE, así como organismos gubernamentales, como la Casa Blanca.

El debate pone de relieve las limitaciones tecnológicas y las vulnerabilidades únicas presentes en los sistemas de IA, así como la ausencia de prácticas de ciberseguridad establecidas y adaptadas a estos sistemas. El análisis subraya la exigencia de una alineación continua entre los requisitos legales y las capacidades tecnológicas, reconociendo la necesidad de más investigación y desarrollo para abordar los retos. Concluye que las prácticas globales de ciberseguridad deben evolucionar para adaptarse a los aspectos únicos de la IA, con un esfuerzo de colaboración de varios sectores para garantizar una aplicación y normalización efectivas.