Sistema de bônus ameaça igualdade em democracias europeias

O que aconteceria se você desse pontos a todos por bom comportamento? O cenário tem muitos riscos. Vera Leysinger / SWI swissinfo.ch

Pesquisadores suíços investigam como proteger democracias contra sistemas de pontuação social inspirados no modelo chinês. A União Europeia já proibiu o uso de IA para esse fim, enquanto a Suíça inicia o debate sobre riscos e regulamentações.

Assine AQUI a nossa newsletter sobre o que a imprensa suíça escreve sobre o Brasil, Portugal e a África lusófona.

Uma sociedade que recompensa as pessoas por estacionarem seus carros de maneira correta e viverem de forma saudável parece desejável para alguns. Para outras pessoas, contudo, isso é preocupante. Pois mesmo um sistema de pontos de bônus, que só recompensa e não penaliza, poderia marginalizar quem tem poucos pontos.

Projetos-piloto na China e filmes distópicos já sensibilizaram muita gente para essa questão, que tem vários nomes: círculos críticos ao poder estatal temem o “nudging” [conceito conhecido como arquitetura da escolha ou teoria do incentivo – literalmente “empurrão”] praticado pelo Estado. Outros falam de pontuação social, sistemas bônus ou de crédito social.

“A China não deve ser nosso parâmetro para o que queremos nas sociedades da Europa Ocidental”, diz Johan Rochel, membro de uma equipe que pesquisa o assunto para a Fundação Suíça de Avaliação de Tecnologia TA-Swiss. Os resultados serão apresentados em 2026.

Sistema de bônus com democracia direta

Em 2020, um estudoLink externo encomendado pelo Ministério de Pesquisa da Alemanha, delineou um cenário prevendo como esse “sistema de bônus” poderia se estabelecer na Alemanha na década de 2030.

Segundo o estudo, um país com um sistema de bônus poderia significar também uma melhor qualidade de vida. Isso seria possível graças à “otimização dos serviços de interesse geral baseada em dados”. O sistema de pontos poderia, de acordo com o estudo, servir à classe política “como ferramenta de prognóstico e controle para otimizar a economia e implementar metas”.

No entanto, de acordo com esse estudo sobre o futuro, a pontuação social deveria ser combinada com instrumentos democráticos diretos na democracia representativa da Alemanha – da forma como são conhecidos na Suíça.

Nesse cenário, uma nova “democracia líquida digital” definiria as “regras do jogo” do sistema.

Com apoio de assistentes digitais, as pessoas na Alemanha reajustariam com frequência o tipo de comportamento a ser recompensado: Boas maneiras? Estilo de vida ecológico? Abstenção de álcool? Todo mundo deveria opinar sobre o sistema que regula e recompensa.

>> Leia nosso artigo sobre como os assistentes digitais de IA podem mudar a democracia direta aqui:

O estudo sobre o futuro, que apresenta esse como um dos seis cenários possíveis para 2030, aponta também suas desvantagens. O sistema de bônus poderia provavelmente levar a “novos conflitos”. Quem tivesse menos pontos do que as pessoas com as quais convive teria dificuldades para sair dessa situação e se tornaria um daqueles “que ficam sempre para trás”.

Pontuação social por IA: proibida pela UE

Desde que esse estudo foi publicado em 2020, a probabilidade de um cenário como esse diminuiu: em 2024, a União Europeia proibiu algoritmos de IA que visam pontuação social. Na Suíça, contudo, ainda não existe uma legislação do gênero.

O sinólogo Adam Knight, da Universidade de Leiden, saúda a proibição na UE. Segundo ele, isso deixa claro que o social scoring é incompatível com os valores europeus. Na visão da UE, a pontuação social põe em risco a privacidade, a igualdade e os procedimentos ordinários, porque as pessoas passam a ser reduzidas a perfis algorítmicos. Segundo Knight, não se deve temer apenas a vigilância, mas também a “discriminação automatizada”.

SWI / Kai Reusser

Mais de 50 leis sobre créditos sociais na China

Na China, o sistema já está estabelecido em nível nacional. “Nos últimos anos, o sistema de crédito social chinês evoluiu discretamente de experimentos locais e projetos-piloto sensacionalistas para a padronização legal e a implementação burocrática”, explica Knight.

De acordo com o sinólogo, 2022 foi um ponto de inflexão: “Desde então, as autoridades têm se concentrado em incorporar mecanismos de crédito nas regulamentações nacionais, e mais de 50 leis agora contêm disposições legais sobre crédito social.”

As listas negativas continuam, contudo, sendo fundamentais, embora as novas reformas tenham trazido oportunidades para “reparar o crédito” e focar em recompensas e reabilitação. Projetos-piloto – como o registro do consumo de álcool e de treinos – foram “discretamente eliminados”. A questão gira menos em torno de “disciplina moral” do que de economia.

No lugar de uma pontuação única, existe agora na China uma “infraestrutura de implementação”. A partir dos dados sobre infrações vai surgindo uma “vasta rede de red flags [sinais de alerta]”, que podem impedir o acesso a empréstimos, contratos, empregos ou serviços públicos.

De acordo com Adam Knight, a China agora tem uma “infraestrutura de aplicação” que recompensa o bom comportamento e pune o mau comportamento. Copyright 2023 The Associated Press. All Rights Reserved

“O que resta é um instrumento poderoso e orientado por dados, para governar por meio da visibilidade: se você infringir as regras, isso deixa um rastro”, explica Knight.

E na Suíça?

Na própria União Europeia, porém, já existe um “perfilamento algorítmico”, acredita Knight. Segundo o especialista, a proibição da UE levanta a questão de como isso deve ser tratado. A “lógica de recompensar a confiança e punir os riscos” existe também “em muitos sistemas ocidentais”, diz o sinólogo.

Knight menciona ofertas como as do AirBnB, Uber e Yelp, bem como agências de crédito. Nessas plataformas, as classificações e pontuações têm consequências de longo alcance. Além disso, ele vê também sistemas análogos na prática estatal: “Na Suíça, por exemplo, o registro de cobrança de dívidas lista publicamente as pessoas que não pagaram suas multas ou contas”. Como as entradas no registro de cobranças e execuções podem impedir que as pessoas consigam um apartamento para morar ou “até mesmo” um emprego, isso acaba não sendo muito diferente de uma lista negativa no sistema de crédito social.

Na Suíça, o registro de execução de dívidas fornece informações sobre se os créditos foram executados contra alguém. Keystone / Christian Beutler

A questão crucial para o sinólogo não é se isso acontece do mesmo jeito que na China, mas “como os dados e os perfis comportamentais influenciam o acesso a serviços em todo o mundo, e quais são as precauções existentes para proteger os direitos individuais”.

Como reconhecer a pontuação social?

O advogado e filósofo suíço Johan Rochel diz: “O desafio é reconhecer a pontuação social como tal”. O projeto de pesquisa TA-Swiss pretende fazer uma contribuição nesse setor, apontando como a sociedade deve definir a pontuação social e como reconhecê-la.

“Nas diretivas da UE sobre IA, o social scoring é um dos aplicativos proibidos”, diz Rochel. “No entanto, ainda não há uma definição clara do que isso engloba exatamente”, completa. O pesquisador acredita que futuros casos jurídicos vão esclarecer o que está implícito na proibição da UE.

Rochel acredita, porém, que os órgãos governamentais e as empresas privadas vão, no futuro, continuar “sem saber se estão usando um sistema de pontuação social ou qualquer outra coisa”. O pesquisador teme a falta de debates públicos e a “introdução de uma lógica de projeto-piloto”.

>> Precisamos de um novo direito humano no mundo digital? Leia aqui como o direito à “integridade digital” foi estabelecido em dois cantões:

Especialmente sensíveis, segundo o pesquisador, são as áreas, nas quais o bem comum está em jogo. Rochel cita o exemplo de um software que ganhou as manchetes na Suíça há alguns anos, com o qual professoras e professores do país podiam denunciar seus alunos como terroristasLink externo. Hoje em dia, essa plataforma se encontra offlineLink externo.

Setores de risco: transporte, meio ambiente, saúde

De acordo com Rochel, além da segurança pública, as áreas de transporte, meio ambiente e saúde são de alto risco. Durante a campanha eleitoral, o atual premiê alemão, Friedrich Merz, propôsLink externo um desconto no seguro de saúde: todos aqueles que disponibilizassem seus dados para análise deveriam pagar 10% menos pelo plano. Essas sugestões, alerta Rochel, parecem inofensivas em um primeiro momento – sobretudo por serem voluntárias. Mas, ao contrário do que acontece no caso de uma obrigação ou proibição, o caráter voluntário se desfaz quando a oferta voluntária se torna na realidade obrigatória. Por exemplo: quando o custo social ou financeiro por não participar se torna muito alto.

No início de 2025, a proposta de Merz provocou muitas reações e críticas. Na Suíça, para a alegria de Rochel, já houve um debate parlamentar sobre o assunto. O pesquisador chama esse alcance público de “uma espécie de mecanismo de proteção” contra uma introdução sorrateira.

Em 2020, Thomas Burgherr, deputado federal pelo Partido do Povo Suíço (SVP,) questionouLink externo qual seria a posição do Conselho Federal em relação aos “impulsionadores comportamentais e outros ‘pequenos’ truques psicológicos da economia comportamental” e como isso se encaixaria na democracia e no Estado de Direito. Da resposta do Conselho Federal, é possível depreender que o governo vê os nudges como uma alternativa às proibições e que “as descobertas e os métodos da economia comportamental (…) podem desempenhar um papel em determinados setores individualmente”.

Já o estudo alemão sobre o futuro, apresentado em 2020, era um pouco mais cético frente aos efeitos dos mecanismos democráticos atuais. Michael Astor, um dos autores do estudo, diz que os argumentos a favor da combinação do sistema de bônus com democracia direta visavam proteger o sistema contra abusos, mitigar o risco de divisão social e adaptar o sistema de bônus às “necessidades sociais em constante mudança”.

Hoje, Astor parece ver o cenário de forma mais crítica do que quando o estudo foi publicado: “Tendo em vista o deslocamento de muitas democracias para a direita, cresce a desconfiança frente a um controle social motivado por etnia, racismo ou por qualquer outra forma [de discriminação], que pode ser implementado por meio desses sistemas”. O “efeito positivo, porque participativo e construtivo”, pretendido por esses sistemas, está ficando de fato cada vez mais distante.

Edição: David Eugster

Adaptação: Soraia Vilela

>> Você também pode ler nosso artigo sobre pessoas que não usam smartphones por uma questão de princípio: