Un ensayo del ETH muestra que la IA se sumaría a la opinión mayoritaria

Los modelos basados en la IA han mostrado en el ensayo un «comportamiento más homogéneo» que los humanos. László D. / Unsplash

Un experimento del Instituto de Tecnología de Zúrich ETH revela que Chat-GPT votaría de manera distinta a los humanos. Entrevistado por SWI swissinfo.ch, el científico informático Joshua Yang explica cómo, pese a ello, la Inteligencia Artificial (IA) acabará transformando la democracia.

Si dejáramos elegir a Chat-GPT, su modelo de lenguaje se decidiría, probablemente, por un partido conocido. Esta es la conclusión a la que llega un estudio científico del ETH de Zúrich, según el cual Chat-GPT tomaría sus decisiones de forma más acorde con la corriente dominante que los humanos.

¿Pero cómo ha llegado a esta conclusión el equipo de Ciencias Sociales Computacionales del ETH? Los grandes modelos de lenguaje están programados para contestar con evasivas a preguntas políticas. «Cuando preguntábamos a Chat-GPT si debíamos dar nuestro voto a Donald Trump o a Kamala Harris, la IA se declaró neutral, sin ofrecer ninguna respuesta», cuenta a SWI swissinfo.ch el científico informático Joshua Yang de la EPFZ.

Chat-GPT, LLaMa y 180 personas

Joshua Yang forma parte del equipo de Ciencias Sociales Computacionales del Instituto de Tecnología de Zúrich ETH y participó en los proyectos “Kultur Komitee Winterthur”, “Stadtidee Aarau” y “vTaiwan”. © Cortesía de Joshua Yang

Por consiguiente, el equipo de Ciencias Sociales Computacionales decidió no hacer preguntas relacionadas con la alta política, sino pedir la opinión de Chat-GPT4 y de LLaMA-2 acerca de proyectos locales de desarrollo urbano aparentemente apolíticos.

Entre estos proyectos, todos ellos ubicados en Zúrich, se encontraba el plan de cerrar la calle Langstrasse al tráfico automóvil, un festival multicultural en la plaza del Sechseläuten y una fiesta infantil en el parque de Leutschen. ¿Cuál de los 24 proyectos en liza elegiría la IA para mejorar la calidad de vida de la ciudadanía de Zúrich?

Luego, el grupo científico comparó los resultados generados por los modelos de la IA con las respuestas de 180 participantes humanos en un experimento análogo con los mismos proyectos.

Tanto los sistemas de la IA como los participantes humanos tomaron sus decisiones en varios ciclos con diferentes configuraciones y procedimientos de voto. Una vez repartieron puntos a los proyectos, y en otra ocasión eligieron tantos proyectos como querían. También se realizaron ensayos mediante el denominado procedimiento del voto por orden preferencialEnlace externo.

Los resultados de este último experimento se pueden aplicar sobre todo a decisiones participativas relativas a presupuestos y a elecciones con múltiples ganadoras y ganadores, como, por ejemplo, el sistema electoral proporcional, que permite a los partidos políticos enviar al parlamento a tantos representantes de sus listas electorales como proporcionalmente les corresponde de acuerdo al resultado electoral.

Sin embargo, el valor informativo del estudio del ETH es limitado en el caso de elecciones con una sola ganadora o un solo ganador, como por ejemplo las elecciones presidenciales de EE. UU.

Los modelos de la IA mostraron un «comportamiento más uniforme»

En general, las diferencias entre los humanos y la IA fueron notables, incluso cuando se establecía que la IA asumiera el papel de una persona.

Con frecuencia, los modelos de la IA eligieron el mismo número de proyectos y mostraron un «comportamiento más uniforme» que los humanos, relata el estudioEnlace externo.

Chat-GPT casi siempre eligió cuatro o cinco proyectos, mientras que las 180 personas participantes optaron por un número muy variable de proyectos.

Estos resultados confirman, según el estudio, que las «muestras sintéticas simuladas con la IA» tienen un «sesgo WEIRD» (acrónimo inglés para blanco, educado, industrializado, rico y democrático) y que «muchas veces» no presentan «variancia (o diversidad) en sus juicios».

Al mismo tiempo, la IA se dejó influenciar en sus decisiones incluso por el orden de distribución de los proyectos en la lista. Esto demuestra los límites de la competencia decisional: por ejemplo, sería impensable que una persona hiciera depender su voto para un partido en concreto del lugar exacto que este mismo ocupa en la papeleta de votación.

Lea nuestro artículo sobre plataformas online y su utilidad en la democracia:

En democracia, la IA sólo debería aplicarse con un «enfoque humano»

Por lo menos, los modelos de la IA se decantaron, con mayor frecuencia, por proyectos más económicos. El estudio pone en valor este dato y concluye que a las electoras y los electores de carne y hueso, por el contrario, les suele faltar esta sensibilidad de costes.

La investigación del equipo del ETH también hace referencia a la idea de César Hidalgo de sustituir a las políticas y los políticos por gemelos digitales de la IA y a la propuesta de dos economistas de asignar un gemelo digital a cada persona con derecho de voto.

El estudioEnlace externo, que Yang presentó en la ‘Conferencia sobre IA, ética y sociedad’ en San José, California, aconseja prudencia. Un «enfoque humano» es «esencial» para que la IA refuerce y no comprometa la «inteligencia colectiva, que nace de las múltiples preferencias humanas en la sociedad», recalca el documento.

Los modelos de la IA se deberían usar más bien «en el cuadro de la técnica del human-in-the-loop», continúa el estudio. De este modo, el agente inteligente podría perfeccionar el proceso de toma de decisiones de las personas, por ejemplo mediante la recopilación, el resumen o la explicación de conocimientos fundamentales sobre un tema.

¿Cómo se regula el uso de los datos personales sensibles?

«Nos interesaba averiguar qué impacto tienen los modelos de lenguaje en la democracia como la conocemos», señala Joshua Yang. «A día de hoy, hay ya mucha gente que formula preguntas a Chat-GPT. El modelo de lenguaje les proporciona informaciones e interviene, de este modo, en sus decisiones políticas».

Una cuestión difícil sigue siendo el uso de los datos personales. «¿Con qué datos alimentamos a la IA cuando le pedimos que asuma la perspectiva de una persona?» Hoy en día existe la posibilidad de tomar como base datos demográficos sensibles, como el color de la piel y la religión, o de usar la transcripción de una conversación larga con una persona.

También es posible crear personas (o arquetipos) sobre la base de una encuesta de opinión, de manera parecida al modelo utilizado en Smartvote. El equipo del ETH recurrió a este enfoque en su experimento. Según Yang, es improbable que este método sea menos eficaz. Este investigador tiene la esperanza de que en un futuro se establezcan directrices éticas y legales claras y que se desarrolle un debate social sobre el punto exacto en el que sería deseable colocar la línea divisoria entre funcionalidad y privacidad.

Lea aquí nuestro artículo sobre la idea de cambiar la democracia con gemelos digitales:

La democracia suiza como «campo de ensayo ideal» para los agentes de la IA

Mientras el estudio recalca sobre todo los aspectos críticos, notamos durante la conversación que a Yang le entusiasman los modelos de la IA: «Soy moderadamente optimista porque creo que la IA tiene mucho potencial para perfeccionar la democracia». La IA podría ayudar a las personas a tomar decisiones de forma más recurrente y mejores, sin que por ello se les tenga que privar de su agencia (o sea, su capacidad de actuar como individuo).

Al celebrar votaciones populares con tanta frecuencia, Suiza es un «campo de ensayo ideal» para las tecnologías de la IA, dado que los modelos de la IA son más eficaces a la hora de ofrecer asistencia en una votación popular concreta, puesto que tratan sobre asuntos que se pueden abordar de forma racional, mientras que en las elecciones suelen dominar las emociones. Por ello podrían contribuir a aumentar la participación electoral, especialmente en votaciones sobre asuntos locales, afirma Yang.

Una posibilidad sería ofrecer una versión digital del folleto explicativo del voto, que la población suiza no solo podría leer, sino también consultar, formulando sus preguntas directamente en la aplicación. Esto podría motivar a las personas que por falta de conocimientos suelen abstenerse del voto, explica el científico informático.

«Si creamos un agente específico de la IA que disponga de abundantes datos relevantes para cumplir su función, el riesgo sería significativamente menor de que este agente facilite datos falsos. Los agentes de la IA empiezan a alucinar cuando no tienen acceso a la respuesta correcta», expone Yang.

Sin embargo, los grandes modelos de lenguaje como Chat-GPT son inadecuados para este tipo de usos porque recurren tanto a información relevante como a datos engañosos.

Desde una perspectiva global, Yang cree que existe una oportunidad para que la IA pueda dar un impulso a los instrumentos democrático-directos (y deliberativos). En un primer momento, habrá políticos y determinados grupos que apostarán por los agentes de la IA para que analicen los debates y para que les preparen argumentos y les propongan soluciones de compromiso y opciones de actuación, cree el informático del ETH.

Y más adelante, los agentes de la IA formarán parte de las instituciones poco a poco, augura Joshua Yang, que está colaborando en varios proyectos locales para impulsar la democracia en Suiza y Taiwán. 

Editado por Mark Livingston. Adaptado del alemán por Antonio Suárez Varela / CW.