Así influyen las respuestas generadas por IA de Google en la democracia suiza
Diversos estudios muestran cómo la inteligencia artificial (IA) puede influir de forma sutil en la formación de la opinión pública. La organización AlgorithmWatch CH reclama más transparencia a las empresas de IA y una regulación más eficaz.
Es un factor de la conversación democrática que a menudo pasa desapercibido: la inteligencia artificial está cambiando la forma en que las personas se informan. «La importancia de las respuestas generadas por IA para la formación de la opinión pública no deja de crecer», afirma Corinna Hertweck, investigadora de la organización de la sociedad civil AlgorithmWatch CH.
Durante la campaña del referéndum sobre la iniciativa «No a una Suiza de 10 millones», AlgorithmWatch CH y el Instituto de Informática de la Universidad de Zúrich analizaron más de 170.000 consultas de búsqueda generadas de forma automatizada. Estudiaron con qué frecuencia aparecía una respuesta generada por IA al realizar una consulta en los buscadores Google y BingEnlace externo y qué fuentes utilizaban.
En el estudio, el 43% de las consultas realizadas en Google dieron lugar a una respuesta generada por IA. Aproximadamente un tercio de las fuentes utilizadas eran equilibradas, principalmente artículos periodísticos o páginas web de organismos públicos.
También analizaron, entre otros aspectos, cuántas de las fuentes enlazadas en el conjunto de las respuestas de IA se posicionaban a favor o en contra de la iniciativa. El resultado mostró que eran más numerosas las fuentes críticas con la propuesta. No obstante, AlgorithmWatch CH subraya que este dato no permite determinar hacia qué lado se inclina la respuesta generada por IA.
Contenido externo
Por lo general, las respuestas presentan argumentos a favor y en contra. «Pero a veces una de las posiciones recibe un texto más extenso, mientras que la otra apenas aparece mencionada en una frase secundaria», explica Hertweck. Por ahora, sin embargo, se trata solo de impresiones. Todavía está pendiente el análisis cuantitativo que determine hasta qué punto las respuestas son equilibradas.
El enfoque puede influir en la opinión pública
A Hertweck le preocupa especialmente esta influencia sutil. «Millones de personas utilizan Google y reciben este tipo de respuestas generadas por IA», señala. «Un enfoque tan sutil puede influir en la formación de la opinión pública».
Durante la polarizada campaña sobre la iniciativa «No a una Suiza de 10 millones», respaldada por el partido conservador UDC, la agencia de publicidad zuriquesa Feinheit también analizó chatbots y respuestas generadas por IA. Su estudio concluyó que ChatGPT y Google Gemini destacaban con mayor frecuencia los argumentos en contra de la iniciativa. Según Feinheit, las respuestas generadas por IA de GoogleEnlace externo se situaban «del lado de quienes defendían la iniciativa».
Equipos de investigación de las universidades de Maryland y WashingtonEnlace externo han demostrado que las respuestas generadas por IA resultan especialmente persuasivas para quienes tienen menos conocimientos sobre un tema o confían más en la inteligencia artificial. Por ello, el papel de los modelos de IA como supuestos intermediarios neutrales de la información cobra especial importancia en el sistema de democracia directa suizo.
«Cuando hago una pregunta en Google, a menudo ya no veo varios enlaces en los primeros puestos, sino directamente una respuesta generada por IA», explica Hertweck. «Suena convincente y transmite autoridad». Está demostrado que aumentan las llamadas «búsquedas de cero clics» (zero-click searches), en las que quienes realizan la consulta no abandonan Google. «Eso puede llevar a reflexionar de forma menos crítica», afirma Hertweck.
La diferencia entre el folleto de votación y las respuestas de IA
En Suiza, el debate sobre si una información es neutral y cuándo lo es forma parte de la propia discusión democrática. En ocasiones, la polémica se centra en la cobertura de los medios públicos, entre ellos Swissinfo.
Pero puede ser aún más intensa cuando se trata del llamado folleto de votación, que la ciudadanía suiza recibe junto con la documentación electoral. La información debe ser neutral y los argumentos y opiniones de quienes están a favor y en contra deben tener el mismo espacio. Naturalmente, eso no se aplica a la propaganda electoral, cuyo gasto no está sujeto a un límite. La presencia pública de cada posición depende, por tanto, en gran medida del presupuesto disponible.
>> Más información sobre la importancia del dinero en política en el siguiente artículo:
Mostrar más
¿Qué rol juega el dinero en la política suiza?
Con las respuestas generadas por IA de los buscadores y los chatbots, sin embargo, está cobrando importancia una fuente de información que se ha extendido en la democracia suiza sin que haya habido un debate democrático al respecto y cuya base para generar respuestas aparentemente objetivas se desconoce.
AlgorithmWatch CH ve amenazada la diversidad de medios
Por eso, Hertweck reclama más transparencia: «La ciudadanía necesita saber cómo se generan las respuestas de IA». En su opinión, el hecho de que «el poder de mercado esté concentrado en muy pocas empresas» supone una amenaza para la diversidad de medios y el acceso a información fiable.
También señala el callejón sin salida económico al que conducen las «búsquedas de cero clics» en Google: «Si la gente se queda en Google, se debilita la diversidad de medios. A los medios de comunicación les faltan clics y, con ellos, la base económica necesaria para hacer buen periodismo».
A la larga, podrían desaparecer las fuentes fiables en las que se basan las respuestas generadas por IA. Hertweck considera, además, que empresas como Google deberían reconocer que ya no se limitan a distribuir contenidos, sino que también los generan en forma de respuestas de IA.
>> ¿Es la IA un perjuicio o una ayuda en democracia? Lea nuestro artículo:
Mostrar más
¿Es la IA suiza un motor para la democracia?
La investigadora habla asimismo de un «área gris» en el proyecto de ley suizo sobre plataformas de comunicación y buscadores. «La integración de la IA generativa no está regulada explícitamente, aunque cada vez la vemos más, por ejemplo, en las respuestas generadas por IA», explica.
«Todo está avanzando a una velocidad vertiginosa»
Hertweck dirige en AlgorithmWatch CH el proyecto de investigación «RAISD». La IA generativa afecta a la democracia porque interviene en la formación de las opiniones individuales. Y esas personas pueden desempeñar también un papel activo en política.
«Además de las respuestas generadas por IA, queremos estudiar, por ejemplo, cómo se utilizan los chatbots en política, cuando políticos, políticas o sus equipos recurren a ellos. Eso puede tener consecuencias de gran alcance si los chatbots participan en la elaboración de leyes», afirma Hertweck al hablar de los próximos pasos del proyecto.
El proyecto de investigación «RAISD» estudia hasta 2028 la interacción entre inteligencia artificial, democracia y sociedad. Hertweck no se atreve a predecir cómo será la IA generativa para entonces. «Todo está avanzando a una velocidad vertiginosa. Para la política y la investigación supone un desafío», señala.
La IA también desempeña un papel en los intercambios de opinión entre personas. Un nuevo estudio de las universidades de Oxford y Potsdam muestra que quienes utilizan IA para mejorar sus propios textos pueden acabar desconfiando de sus propias palabras.
«La comunicación mediada por IA puede orientar la opinión colectiva»Enlace externo, se titula el estudio. En él, especialistas en informática pidieron a distintos modelos de IA que «mejoraran» textos en los que se expresaban opiniones. Los modelos de IA suavizaron las opiniones expresadas o, en algunos casos, llegaron a modificarlas hasta adoptar la postura contraria en cuestiones como el aborto, el feminismo y el cambio climático.
La profesora Sandra Wachter y su equipo calcularon entonces qué podría ocurrir como consecuencia de esta interacción. Si a una publicación de LinkedIn cuya posición ha sido modificada por un modelo de IA le sigue una respuesta cuya postura también ha sido influida por otro modelo, el debate va desplazándose gradualmente. Eso afecta tanto a quienes participan en la conversación como a quienes la observan desde fuera.
Sesgo de Grok a favor de la postura provida
«Nuestro trabajo demuestra que necesitamos un debate más amplio sobre lo que esperamos de los modelos de lenguaje y de quienes los desarrollan, porque es posible que quienes toman decisiones no fueran conscientes de estos riesgos cuando redactaron la Ley de IA», escribe Wachter en respuesta a una consulta.
La Ley de IA de la Unión Europea establece la obligación de etiquetar los contenidos generados por IA. Sin embargo, esta obligación se refiere principalmente a imágenes, sonido y vídeo. Es «poco probable» que los textos queden incluidos, según Wachter.
El estudio concluyó que Grok, el modelo de IA desarrollado por Elon Musk, presenta un sesgo contrario al aborto. Todos los modelos de IA tienen sesgos, a menudo relacionados con los datos y contenidos utilizados para entrenarlos. Sin embargo, el equipo de Wachter encontró indicios de que una determinada instrucción introducida por quienes desarrollaron Grok hace que el modelo tienda a adoptar una posición provida.
Artículo editado por Samuel Jaberg y adaptado al español por Carla Wolff.
Si le interesan los temas de democracia, suscríbase a nuestra Newsletter:
Mostrar más
Nuestro boletín sobre democracia
En cumplimiento de los estándares JTI
Mostrar más: SWI swissinfo.ch, certificado por la JTI
Puede encontrar todos nuestros debates aquí y participar en las discusiones.
Si quiere iniciar una conversación sobre un tema planteado en este artículo o quiere informar de errores factuales, envíenos un correo electrónico a spanish@swissinfo.ch.