Resumos de IA influenciam debate eleitoral na Suíça

A campanha para o referendo foi polarizada. A Algorithm Watch CH e a Universidade de Zurique analisaram os resumos gerados por IA que aparecem com maior frequência no Google e no Bing, antes dos resultados de pesquisa. Gian Ehrenzeller / Keystone

Pesquisas na Suíça indicam que resumos gerados por inteligência artificial em buscadores como Google e Bing já interferem na forma como eleitores se informam durante campanhas. AlgorithmWatch exige regulação mais clara.

É um fator no debate democrático que muitas vezes permanece inconsciente: a IA está mudando a forma como as pessoas se informam. “A importância das visões generalizadas de IA para a formação da opinião democrática está crescendo”, afirma Corinna Hertweck, pesquisadora da organização da sociedade civil AlgorithmWatch CH.

Durante a campanha de votação sobre a iniciativa “Não à Suíça de 10 milhões”, a AlgorithmWatch CH, juntamente com o Instituto de Informática da Universidade de Zurique, analisou mais de 170.000 consultas de busca geradas automaticamente. Nesse processo, investigaram com que frequência, após uma consulta nos mecanismos de buscaLink externo Google e Bing, aparece uma resposta automatizada resumida de IA e quais são as fontes utilizadas.

Na pesquisa, 43% das consultas no Google receberam uma visão generalizada de IA como resposta. Cerca de um terço das fontes utilizadas eram equilibradas – sobretudo contribuições jornalísticas ou sites de autoridades públicas.

Além disso, foram analisadas, entre outras coisas, quantas das fontes vinculadas em todas os resumos de IA eram favoráveis ou contrárias à iniciativa. Constatou-se que mais fontes utilizadas se posicionavam criticamente em relação à iniciativa. No entanto, a AlgorithmWatch CH enfatiza que isso não permite afirmar qual é a tendência da resposta generalizada de IA.

Em geral, a resposta generalizada de IA apresenta argumentos a favor e contra. “Mas, às vezes, um dos lados recebe um texto mais longo, enquanto o outro é mencionado apenas em uma oração subordinada”, relata Hertweck. Mas essas são apenas impressões iniciais. A avaliação quantitativa de quão equilibradas são as respostas ainda está pendente.

Influenciando a opinião pública

Hertweck considera preocupante essa influência sutil. “Milhões de pessoas usam o Google e recebem essas respostas generalizadas de IA”, afirma. “Nesse contexto, um enquadramento tão sutil pode influenciar a formação da opinião.”

Na polarizada campanha de votação em torno da iniciativa “Não à Suíça de 10 milhões” – do partido do povo suíço (SVP, na sigla em alemão) – a agência de publicidade Feinheit de Zurique também analisou chatbots e respostas generalizadas de IA. Sua avaliação chegou à conclusão de que o ChatGPT e o Google Gemini enfatizavam com mais frequência os argumentos contrários. Segundo a Feinheit, as visões generalizadas de IALink externo do Google estavam “do lado dos autores da iniciativa.”

PesquisadoresLink externo das universidades de Maryland e Washington demonstraram que as respostas generalizadas de IA convencem especialmente usuários “com menor conhecimento sobre o tema ou maior confiança na IA”. Consequentemente, o papel dos modelos de IA como supostos mediadores neutros de informação é importante na democracia direta suíça.

“Quando faço uma pergunta ao Google, muitas vezes já não vejo vários links no topo, mas simplesmente uma resposta gerada por IA”, diz Hertweck. “Ela parece plausível, tem autoridade.” Está comprovado que as “buscas sem clique” (“Zero-Click-Searches”) estão aumentando, ou seja, as consultas nas quais os usuários não abandonam o site do Google. “Isso faz com que sejamos tentados a refletir de forma menos crítica”, afirma.

Respostas generalizadas de IA

Na Suíça, a discussão sobre se e quando uma informação é neutra faz parte do debate democrático. Às vezes, ela se concentra na cobertura dos meios de comunicação públicos, entre os quais também está a Swissinfo.

Ela pode se tornar ainda mais intensa no caso do chamado livreto de votação, que os suíços recebem junto com os documentos de votação. As informações precisam ser neutras; os argumentos e opiniões das defensoras e defensores e das opositoras e opositores devem receber o mesmo espaço. Naturalmente, isso é diferente no caso da publicidade de votação, que não tem um limite financeiro. A presença pública depende, portanto, fortemente do orçamento.

Com as respostas generalizadas de IA dos mecanismos de busca e os chatbots, porém, uma fonte de informação está se tornando mais importante, uma fonte que se disseminou na democracia suíça sem um debate democrático – e em relação à qual não se sabe com base em que ela gera suas respostas, que aparentam ser objetivas.

Diversidade da mídia ameaçada

Por isso, Hertweck exige: “O público precisa de transparência sobre a maneira como as respostas generalizadas de IA são produzidas.” Ela considera uma ameaça à diversidade da mídia e à informação confiável o fato de “o poder de mercado estar concentrado em pouquíssimas empresas.”

Ela também destaca um beco sem saída econômico ao qual as “buscas sem clique” no Google conduzem: “Quando se permanece no site do Google, se enfraquece a diversidade da mídia. Faltam cliques às empresas de mídia e, com isso, falta a base econômica para um bom jornalismo.”

No final, desapareceriam as fontes confiáveis nas quais as visões generalizadas de IA se baseiam. De qualquer forma, Hertweck considera que empresas como Google deveriam reconhecer que já não apenas transmitem conteúdos, mas também criam alguns deles, em forma de visões generalizadas de IA.

Ela também fala de uma “zona cinzenta” no projeto de lei suíço sobre plataformas de comunicação e mecanismos de busca. “A integração da IA generativa não é explicitamente regulamentada ali, embora estejamos vendo isso cada vez mais – justamente, por exemplo, no caso das respostas generalizadas de IA”, explica Hertweck.

“Tudo acontece tão rápido”

Hertweck dirige o projeto de pesquisa “RAISD” na AlgorithmWatch CH. A IA generativa afeta a democracia porque desempenha um papel na formação das opiniões individuais. Naturalmente essas pessoas também podem atuar elas próprias na política. “Além das respostas generalizadas de IA, queremos analisar, por exemplo, como os chatbots são utilizados na política – quando políticos ou seus funcionários utilizam chatbots. Isso pode ter consequências de longo alcance quando os chatbots participam da elaboração de leis”, afirma Hertweck sobre os planos futuros.

O projeto de pesquisa “RAISD” investiga, até 2028, a interação entre IA, democracia e sociedade. Hertweck não se arrisca a fazer uma previsão de como será a IA generativa nessa altura. “Tudo acontece tão rápido. Para a política e para a pesquisa, isso é um desafio”, finaliza.

Estudo de Oxford

A IA também desempenha um papel no debate de pessoa para pessoa. Um novo estudo das universidades de Oxford e Potsdam mostra que os usuários não podem confiar em seus próprios textos – quando os entregam à IA para aprimorá-los.

“A comunicação mediadaLink externo por IA pode controlar a opinião coletiva” é o título do estudo. Nele, os cientistas da computação pediram aos modelos de IA que “melhorassem” posts de opinião. Os modelos de IA enfraqueceram as opiniões ou as inverteram – em temas como aborto, feminismo e mudança climática.

A professora Sandra Wachter e sua equipe calcularam então o que poderia acontecer nessa interação: quando uma resposta é dada a uma publicação no LinkedIn cuja posição foi influenciada por um modelo de IA, e a posição dessa resposta, por sua vez, também foi influenciada por um modelo de IA, o debate vai se deslocando gradualmente. Isso ocorre tanto para os participantes quanto para pessoas de fora que observam o debate.

Viés no Grok

“Nosso trabalho mostra que precisamos de uma discussão mais ampla sobre o que pensamos a respeito dos modelos de linguagem e de seus desenvolvedores, porque os responsáveis pelas decisões talvez não estivessem conscientes desses riscos quando elaboraram a Ata de IA”, escreve Wachter em resposta a uma consulta. De fato, no (documento) Ata de IA, da União Europeia, existe a obrigação de identificar conteúdos gerados por IA. No entanto, essa identificação diz respeito sobretudo a imagens, áudios e vídeos. É “improvável” que os textos estejam incluídos, afirma Wachter.

O estudo chegou à conclusão de que o Grok – o modelo de IA de Elon Musk – apresenta um viés contra o aborto. Embora todos os modelos de IA tenham vieses, o que muitas vezes está relacionado aos dados e conteúdos com os quais foram treinados, a equipe de Wachter encontrou evidências de que um determinado prompt de seus desenvolvedores faz com que o Grok tenda a adotar uma posição pró-vida.

Edição: Samuel Jaberg/jg

Adaptação: Flávia C. Nepomuceno dos Santos