La directora del grupo financiero Citi urge a evitar «agentes de IA corriendo sin control»
Miami (EE.UU.), 28 sep (EFE).- La directora general del grupo financiero estadounidense Citi, Jane Fraser, urgió este lunes a que no haya «agentes de inteligencia artificial (IA) corriendo sin control», mientras que el Fondo Monetario Internacional (FMI) pidió «tomar en serio» los posibles riesgos de la tecnología.
El sistema financiero y el comercio deben prepararse para un futuro en el que las soluciones de IA hagan transacciones en nombre de seres humanos, argumentó Fraser en la conferencia Sibos en Miami Beach, organizada por la plataforma de pagos Swift y considerada el mayor encuentro global de servicios financieros.
«Así que hay un montón de trabajo dándose en este momento en materia de autenticación que permitirá a los agentes actuar en nuestro nombre. Hasta entonces, estoy segurísima de que no voy a tener agentes corriendo descontrolados, sin los controles apropiados», según la directora de Citi.
El evento, de cuatro días y al que asisten financieros, banqueros y figuras como la tenista Serena Williams, tiene lugar mientras crece el debate sobre los riesgos de la IA en Estados Unidos, donde el presidente Donald Trump rechazó este domingo las preocupaciones al respecto y mayores regulaciones.
«No me preocupa», declaró Trump en una entrevista con Fox News en la que adelantó que cenaría el domingo con Dario Amodei, el fundador de Anthropic. «Vamos a hablar (de IA). Yo abogo por ir y ganar. Estamos un año, quizás un año y medio, por delante de China», indicó.
Sin referirse a estas declaraciones, Dan Katz, primer subdirector gerente del FMI, reconoció que existe un «debate amplio sobre si los sistemas de IA, cada vez más potentes, podrían plantear riesgos tan graves para la sociedad en su conjunto que se necesiten nuevas regulaciones para frenar el ritmo de desarrollo».
«Vale la pena tomarse estas preocupaciones en serio», consideró.
Katz dijo que «los riesgos cibernéticos están, por supuesto, en el primer lugar de la lista», al considerar que «la IA está rediseñando el riesgo cibernético al acelerar la velocidad, la frecuencia y el alcance de la detección de vulnerabilidades y su posible explotación».
En ese sentido, resaltó como un «desafío» para los funcionarios «respaldar esta innovación sin comprometer la estabilidad» del sistema financiero y «permitir que ocurra esta transformación mientras protegen contra los riesgos».
En ello coincidió la directora de Citi, quien pidió un marco regulatorio que permita que la tecnología se despliegue de una manera «segura», pero «rápida». EFE
ppc/ims/acm
(foto) (video)
