Alberto Gago asume la dirección de la Aesia, la primera agencia de supervisión de IA en España

Alberto Gago, originario de Zaragoza y con 39 años, fue nombrado en diciembre como el nuevo director de la Agencia Española de Supervisión de la Inteligencia Artificial (Aesia), el primer organismo de este tipo en la Unión Europea. Con solo un año y medio de existencia, la Aesia tiene la misión de asegurarse de que los sistemas de inteligencia artificial (IA) utilizados en España cumplan con la normativa legal vigente. Gago posee un profundo conocimiento de esta normativa, habiendo actuado como asesor de la ex Secretaria de Estado de Digitalización e IA, Carme Artigas, durante las intensas negociaciones que llevaron a la aprobación del Reglamento Europeo de IA, crucial en el marco de la presidencia española del Consejo de la UE.

Estructura del Reglamento Europeo de IA

El Reglamento clasifica los sistemas de IA en cuatro categorías según el riesgo que representan para la sociedad. En la primera categoría se encuentran los sistemas de riesgo mínimo, como los filtros de spam, seguidos por aquellos de riesgo limitado, como la IA generativa. En la tercera categoría se ubican los sistemas de alto riesgo, que gestionan áreas críticas como infraestructuras esenciales, educación y salud, y que están sujetos a controles más rigurosos. Por último, la cuarta categoría incluye los sistemas de riesgo inaceptable, como los de manipulación conductual y vigilancia biométrica, los cuales están prohibidos.

Cada país es responsable de garantizar que no se utilicen sistemas prohibidos y, en los próximos meses, deberá verificar que los sistemas de alto riesgo cumplan con los requerimientos establecidos. En España, esta tarea recae en la Aesia, situada en La Coruña. Actualmente, la agencia cuenta con 35 empleados, con planes de incrementar su plantilla a 50 antes de finalizar el año y de seguir creciendo en el futuro. Gago subraya la diversidad de su equipo, que incluye ingenieros, economistas y juristas, lo que es esencial para comprender las implicaciones sociales de la IA.

Competencias y funciones de la Aesia

En una de sus primeras entrevistas, Gago expone las competencias de la Aesia, que se centran en generar confianza y seguridad jurídica en el uso de la IA. Desde febrero, la agencia ha implementado supervisiones sobre los ocho sistemas de IA ya prohibidos, asegurando que ninguno de ellos esté en uso en el mercado español. La Aesia realiza un seguimiento eficaz de miles de sistemas a través de diversas vías, incluidas denuncias y monitoreo de la prensa y del mercado.

El director explica que, aunque la evaluación de los sistemas clasificados como alto riesgo aún está pendiente, su trabajo incluye la formación y alfabetización en IA, habiendo abordado más de 700 consultas en su primer año. Además, la Aesia busca apoyar la innovación mediante la publicación de guías y la prueba de sistemas de IA en entornos reales.

Colaboración y proyectos futuros

La Aesia también se involucra en la esfera internacional, proponiendo marcos institucionales para la gobernanza de la IA. Se proyecta que la agencia colaborará con el laboratorio de gobernanza de la IA de Valencia y planea establecer un laboratorio de ideas que evaluará el impacto social y económico de la IA. Este think tank se lanzará a finales de marzo, buscando dialogar con la sociedad, incluyendo visitas a colegios y universidades, para comprender mejor los problemas reales relacionados con la IA.

Gago también menciona la inminente Ley Ómnibus, que podría modificar el reglamento de IA solo dos años después de su implementación. Respecto a esta modificación, manifiesta que la intención es simplificar y no desregular, asegurando que se trate de un ajuste quirúrgico para mejorar los procesos burocráticos.

Respuesta ante desafíos asociados a la IA

En relación a las recientes declaraciones del presidente del Gobierno sobre investigar a las plataformas de redes sociales por la difusión de contenido inapropiado a través de sistemas de IA, Gago manifiesta su apoyo a la medida. Subraya la importancia de garantizar que los derechos en el mundo físico se respeten también en el ámbito digital. La Aesia participará en este esfuerzo, colaborando con autoridades para abordar estos delitos y educando a los jóvenes sobre los riesgos y beneficios de la IA.

Aunque Gago menciona que aún no se han recibido solicitudes formales para el apoyo técnico relacionado con este tema, la Aesia se mantiene preparada para colaborar con las autoridades competentes cuando sea necesario.