Políticos y expertos alertan de riesgos de la IA tras dimisión de ingeniero de Anthropic
Nueva York, 9 sep (EFE).- Diversos políticos y trabajadores del sector tecnológico han advertido este miércoles de los peligros de la inteligencia artificial (IA) tras la dimisión de un ingeniero de Anthropic que asegura que la tecnología podrá acabar con la humanidad en una década.
Samuel Marks, miembro del personal técnico de Anthropic, ha respondido a la publicación en X del británico Jacob Coxon sobre su decisión de dejar la empresa y coincide con él en que los desarrolladores de IA creen que esta tecnología «podría causar la extinción humana o resultados igual de graves».
«En general, cuanto más alto es el cargo del empleado, mayor es su preocupación», ha subrayado.
Según Marks, los desarrolladores de IA «siguen adelante pese al riesgo por una combinación de incentivos comerciales y la creencia de que compiten con otros trabajadores de IA menos responsables, que abusarán de la tecnología o la desarrollarán de forma menos segura».
El experto explica además que no es posible programar los modelos de IA para que «actúen como queremos» y que estos se comportan «de forma gravemente indebida con frecuencia», poniendo como ejemplo jaqueos recientes de agentes de IA contra varias empresas.
Por su parte, Evan Hubinger, responsable científica de Anthropic, ha dado la razón a su ahora excompañero de trabajo y ha asegurado que «la IA podría matar a todos los seres humanos»: «Considero que la probabilidad de que ocurra en la próxima década es superior al 10 %».
También se han hecho eco de la dimisión de Coxon políticos estadounidenses como el senador por Vermont Bernie Sanders, que ha recordado que presentará una legislación para prohibir la superinteligencia y pausar el desarrollo de la IA.
El congresista demócrata por Texas Greg Casar, que está detrás de esta normativa que propone Sanders, ha calificado la situación de «emergencia» y ha instado al Congreso a «celebrar audiencias y aprobar la propuesta» de ambos políticos.
Asimismo, Lori Trahan, congresista demócrata por Massachusetts, ha animado a sacar adelante su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que apuesta por una mayor supervisión de los modelos de IA.
En su publicación de X en la que detallaba las razones de su dimisión, Coxon ha asegurado además que se está subestimando el poder de esta tecnología, ya que los proyectos de IA «serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos». EFE
asg/jco/icn
