Inteligência artificial e democracia direta podem conviver?

O algoritmo Bot Dog é projetado para detectar mensagens de ódio nas mídias sociais. stophatespeech.ch

A inteligência artificial é vista por alguns como uma ameaça à democracia; para outros, uma grande oportunidade. Pesquisadores e especialistas explicam como os algoritmos e o "big data" (macrodados) são aplicados na Suíça.

Plebiscitos e referendos federais ocorrem na Suíça a cada três meses. Os debates antes dos plebiscitos são ferozes. O tom é, muitas vezes, particularmente áspero na internet. Insultos, ódio e até mesmo ameaças de morte não são incomuns. Este é um problema para a democracia, diz Sophie Achermann, diretora da Alliance F, o maior consórcio de organizações feministas da Suíça. “É importante ter discussões duras, mas factuais. Mas o ódio na rede dificulta a diversidade de opiniões”, diz Achermann. “As pessoas têm medo de mensagens de ódio e preferem não se expressar”.

“Antes da votação da iniciativa 2021 sobre pesticidas e água potável, por exemplo, algumas mulheres políticas receberam tantas mensagens de ódio que não queriam mais aparecer em público”, diz. Este não é apenas um fenômeno suíço. Em todo o mundo, os políticos estão sendo cada vez mais atacados e ameaçados on-line, especialmente as mulheresLink externo e as minorias.

A Aliança F desenvolveu, portanto, um algoritmo contra o discurso do ódio. O algoritmo é chamado de “Bot DogLink externo” porque, como um cão, detecta mensagens de ódio nas mídias sociais e assinala as postagens. Um grupo de voluntários responde então a cada mensagem individual. A ideia é de que o ódio na rede não passe despercebido e a discussão possa ser continuada objetivamente.

Bot Dog ainda está na fase de testes, mas os testes iniciais mostraram sucesso. Pesquisadores da Escola Politécnica Federal de ZuriqueLink externo (ETH) e da Universidade de Zurique acompanharam o projeto piloto e descobriram que as respostas que apelavam à compaixão por aqueles afetados pelo discurso do ódio foram particularmente bem-sucedidas. Frases como “Sua postagem é muito dolorosa para os judeus” fizeram com que os propagadores de ódio pedissem desculpas ou apagassem a mensagem.

Em julho, Bot Dog estará oficialmente online. Qualquer pessoa que queira pode participar do projeto, diz Achermann; seja classificando os comentários, e assim ajudando com o aprendizado do algoritmo a reconhecer com mais precisão quais comentários contêm ódio, ou respondendo às mensagens de ódio já marcadas.

Algoritmos ajudam

Bot Dog é apenas um exemplo de como a inteligência artificial (IA) pode fortalecer a democracia. Dirk Helbing, que trabalha na ETH como professor de ciências sociais computacionais, vê o imenso potencial da democracia digital. Ele pensa no orçamento participativo, onde os cidadãos determinam conjuntamente como o orçamento de sua cidade ou município deve ser gasto.

Esta abordagem já está sendo testada no bairro de Wipkingen, em Zurique, onde os residentes decidiram através uma plataforma digitalLink externo sobre propostas de criação de jardins urbanos, um parque de skate e um festival culinário de rua. Cada projeto é apoiado com 40 mil francos suíços dos fundos dos contribuintes.  

Outra ideia para a democracia digital é a de que cidades e regiões de todo o mundo poderiam se ligar em rede e participar de uma competição esportiva para as melhores soluções de gestão sustentável, redução de CO2 ou coexistência pacífica; uma espécie de Olimpíada da cidade.

As soluções e dados associados seriam de fonte aberta, ou seja, livremente acessíveis a todos, e poderiam servir como base para modelos de IA. “Acho que estamos caminhando para uma espécie de sociedade participativa digital”, diz Helbing. Em outras palavras, uma colaboração entre IA e seres humanos como no caso do Bot Dog, onde um algoritmo e voluntários lutam juntos contra o ódio na rede.

O potencial da IA para a democracia direta é imenso. Mas aplicações puramente baseadas em dados “também têm grande potencial destrutivo para formas de sociedade democráticas, constitucionais e baseadas nos direitos humanos”, diz Helbing.

Nem tudo para melhor 

Para o cientista da ETH, os algoritmos determinam cada vez mais quais informações recebemos, quais produtos nos são mostrados, e a que preço. Eles determinam o que vemos do mundo e quais problemas consideramos importantes. Isto também controla nosso pensamento político e nosso comportamento de voto.

Isto ficou evidente na campanha presidencial americana de 2016 de Donald Trump, onde sua equipe usou algoritmos de big data para criar conteúdo personalizado para seu público-alvo. “Nós os bombardeamos com blogs, websites, artigos, vídeos, anúncios, até que eles vissem o mundo do jeito que nós queríamos”. Até votarem em nosso candidato”, disse Brittany Kaiser no documentário da Netflix ‘The Great Hack’ sobre seu trabalho para a campanha.

Kaiser trabalhou para a empresa Cambridge Analytica, que extraiu dados privados de 87 milhões de perfis do Facebook antes das eleições presidenciais americanas, desencadeando um dos maiores escândalos envolvendo dados até o momento.

Os eleitores também foram alvo durante a segunda campanha presidencial de Barack Obama em 2012. A equipe de Obama coletou o máximo de dados possíveis e enviou uma mensagem personalizada a cada eleitor.

Não se pode dizer com certeza quão elevada foi a participação de tais métodos de campanha baseados em IA no respectivo sucesso dos candidatos. Mas Hebling e seus colegas Link externoveem um grande perigo nestes métodos. Especialmente a combinação de identificar e influenciar (nudging) com big data nosso comportamento, sentimentos e interesses poderia dar origem a um poder totalitário, diz Helbing. “Nudging”, ou “arquitetura da escolha” é um termo da psicologia e significa encorajar as pessoas a fazer alguma coisa ou a conduzi-las em uma determinada direção.

Tecnologia na política  

A inteligência artificial (IA) precisa de uma coisa acima de tudo: dados. E quanto mais ela tem, melhor funciona. Na Suíça, a proteção e a privacidade dos dados são mercadorias preciosas. Será que métodos de campanha eleitoral como os dos EUA seriam possíveis aqui? Os partidos suíços poderiam visar os eleitores com o chamado microtargeting?

Lucas Leemann, cuja pesquisa na Universidade de Zurique inclui como medir a opinião pública usando o aprendizado de máquinas, acredita que não. “Não temos uma situação comparável na Suíça àquela dos EUA”, diz. Isso teria a ver, entre outras coisas, com o fato de que dados brutos como as campanhas Trump e Obama não estão disponíveis na Suíça. “Eles tinham um ponto de dados para quase todos os cidadãos dos EUA. É completamente diferente na Suíça”, completa.

Leemann trabalhou brevemente para uma empresa de moda nos EUA durante seus estudos, onde não só teve acesso ao banco de dados de clientes, ou seja, nome, endereço e aniversário, mas também pôde ver qual era sua renda anual estimada, quantos filhos têm, que carro dirigem e se alugam ou vivem em sua própria casa. “Nos EUA, você pode simplesmente comprar esses dados e eles também são utilizados politicamente. Na Suíça, que eu saiba, tais dados não são ou ainda não são utilizados para campanhas políticas”, afirma.

A palavra-chave é “ainda não”? Esses dados também estarão em breve disponíveis para compra na Suíça? De acordo com Helbing da ETH, a “datificação” do mundo está muito mais avançada do que a maioria das pessoas imagina.

Como exemplo, cita o Centre for Cybersecurity do Fórum Econômico Mundial (WEF) com sede em Genebra, no qual organizações e empresas de todo o mundo estão envolvidas, incluindo Amazon, MasterCard e Huawei Technologies. Uma “quantidade extremamente grande de dados é coletada lá”, diz Helbing. Os dados ali reunidos são utilizados, com a bênção das Nações Unidas, para implementar a Agenda para o Desenvolvimento Sustentável de 2030, entre outras coisas.

“Isto pode ser bem-intencionado, mas a questão é como isto será implementado e o que mais é possível fazer com os dados”, diz Helbing. “Por haver tantas empresas envolvidas, há aqui um risco de que os interesses comerciais possam superar os da sociedade”.

Mais transparência

Para evitar que a IA se torne uma ameaça à democracia, leis e regulamentos devem ser criados agora, advertem os especialistas.

Mas para criar regras que funcionem, você precisa saber exatamente como funcionam os algoritmos. É aqui que reside o problema. Porque plataformas como o Facebook são uma caixa preta, diz Anna Mätzener, diretora da AlgorithmWatch Suíça: “Não sabemos como os algoritmos funcionam em detalhes. Também não sabemos exatamente quais dados estão sendo coletados sobre quem”.

A IA que administra o conteúdo das mídias sociais é um segredo bem guardado. Para descobrir como o algoritmo afeta as campanhas eleitorais, AlgorithmWatch lançou um projeto de pesquisa junto com o Süddeutsche ZeitungLink externo. Eles convidaram centenas de voluntários a doar dados sobre seus cronogramas no Instagram antes das eleições federais alemãs de 2021. Os voluntários deveriam subscrever os perfis de todos os partidos. Um plug-in de browser registrou onde e como o conteúdo desses perfis apareceu nos feeds de notícias dos usuários e transmitiu essas informações para a AlgorithmWatch.

A análise mostrou que o conteúdo do partido Alternativa para a Alemanha (AfD, na sigla em alemão) apareceu mais acima no fluxo de notícias do Instagram do que o de outros partidos. A pesquisa não podia responder por que este era o caso. 

Aparentemente, Meta (antiga Facebook), à qual a Instagram pertence, ficou incomodada com esta pesquisa e ameaçou a AlgorithmWatch de “tomar medidas mais formais” se o projeto não fosse descontinuado. A doação de dados foi então cancelada prematuramente.

“Até que este tipo de pesquisa seja possível, não podemos dizer nada informado sobre o impacto que o conteúdo administrado pela IA tem sobre a sociedade e em particular sobre a formação da opinião política e, portanto, muito diretamente sobre a democracia”, diz Mätzener.

Adaptação: DvSperling