La Defensora del Pueblo UE investiga cómo sus instituciones usan Inteligencia Artificial

Bruselas, 19 mar (EFE).- La Defensora del Pueblo de la Unión Europea (UE), Emily O’Reilly, informó este martes de que ha abierto una investigación sobre cómo utiliza la Comisión Europea la Inteligencia Artificial (IA) para descubrir infracciones de las reglas de competencia, responder a quejas y analizar las opiniones que recibe de los ciudadanos. «La IA plantea grandes retos en cuanto a la exactitud de los resultados, posibles sesgos, interpretación y supervisión humana, no menos cuando se usa en los procesos de toma de decisiones que afectan directamente al público. El modo en que la administración de la UE introduce la IA debería por tanto ser transparente y permitir suficiente escrutinio», escribió O’Reilly en una carta dirigida a la presidenta de la Comisión Europea, Ursula von der Leyen. La Defensora del Pueblo de la UE subraya que el público debería poder verificar que las administraciones han actuado con la diligencia debida, las decisiones tomadas con IA han implicado a los actores relevantes y que se revisa el uso de estos sistemas, al tiempo que las instituciones deben asegurar que la IA les ayuda, pero no les sustituye en la toma de decisiones. En este contexto, O’Reilly ha decidido investigar cómo aplica la Inteligencia Artificial la Comisión Europea por tratarse de la institución más grande, poco después de que el propio Ejecutivo comunitario publicase un informe sobre los sistemas de IA que usa y que está probando, algo que la Defensora ha celebrado. O’Reilly pregunta en concreto por tres sistemas que ve de «particular importancia para el derecho a una buena administración», el primero de ellos, el que usa Bruselas para analizar con IA las respuestas que recibe a las consultas públicas, del que quiere saber cómo abordarán el riesgo de que algunos actores manipulen la percepción sobre ciertas iniciativas. En segundo lugar, inquiere sobre cómo se usa la IA para descubrir infracciones de las normas de competencia, un área en el que advierte de que la Comisión Europea «tendrá que proteger sus investigaciones contra cualquier error y sesgo», así como preservar los derechos procesales de los implicados. Por último, la Defensora pide información sobre cómo gestiona las quejas que recibe, en especial, qué prevé hacer para evitar un «sesgo de automatización» que haría que los empleados que las gestionan se fíen desproporcionadamente de las soluciones que propone la IA, y en este sentido advierte de que debería haber «suficiente» implicación humana en el análisis de cada queja. La Comisión Europea tiene hasta el próximo 14 de junio para responder. España, el país que más quejas envió en 2023 La Defensora del Pueblo informó de esta investigación el mismo día en que presentó su informe anual de 2023, que revela que España fue el principal origen de las quejas que le llegaron el año pasado, con un 17 % (402) de las 2.366 que recibió en total, seguida de lejos por Alemania (241) y Bélgica (210). Más de la mitad de las quejas, unas 1.500, no fueron admisibles porque no se ajustaron a las competencias de la institución, y del resto, 369 llevaron a abrir una investigación. Los europeos acudieron a la Defensora del Pueblo sobre todo para quejarse de la Comisión Europea y la Oficina de Selección de Personal de la UE, y por asuntos relacionados con la transparencia y la rendición de cuentas, la cultura institucional, la contratación de personal y la gestión. EFE lpc/cat/fpa