Comissão alerta: IA amplia racismo e sexismo na Suíça

As minorias étnicas e de género, os estrangeiros e as mulheres estão entre os grupos mais afectados pela discriminação causada pelos algoritmos de inteligência artificial. Keystone

Os algoritmos estão influenciando cada vez mais decisões importantes, como recrutamento de pessoal e acesso a crédito e seguro. De acordo com uma análise recente, as proteções legais na Suíça permanecem fracas. O governo promete tomar medidas.

Os algoritmos estão influenciando cada vez mais decisões importantes, como recrutamento de pessoal e acesso a crédito e seguro. De acordo com uma análise recente, as proteções legais na Suíça permanecem fracas. O governo promete tomar medidas.

Na Suíça, a população não está suficientemente protegida contra os riscos de discriminação decorrentes do uso de inteligência artificial (IA). Esse foi o parecer jurídico enviado ao Parlamento por duas comissões federais: a Comissão contra o Racismo e a Comissão para Assuntos da Mulher.

Não é coincidência que essas duas comissões tenham decidido agir para confrontar o governo com as deficiências na proteção da população contra os riscos da IA. Os estrangeiros, as minorias étnicas e de gênero, e as mulheres estão entre os grupos mais afetados.

Vários estudos já mostraram como a IA penaliza esses grupos em áreas como recrutamento, acesso a crédito e prêmios de seguro. Na seleção de candidatos a emprego, por exemplo, ferramentas de IA favorecem candidatos do sexo masculino em 85% das vezes e mulheres em apenas 11%, enquanto homens negros são sistematicamente prejudicados, de acordoLink externo com pesquisas internacionais.

“A discriminação racial e de gênero é perpetuada e ampliada pela inteligência artificial”, alerta Ursula Schneider Schüttel, presidente da Comissão Federal contra o Racismo, durante uma palestra em Berna. Ela ressalta que algumas seguradoras de automóveis na Suíça usam modelos baseados em IA para calcular os prêmios. “Homens jovens que não têm um sobrenome tipicamente suíço acabam pagando prêmios mais altos”, diz. A mídia suíça já publicouLink externo casos semelhantes.

Em comparação com cidadãos de outros países, os suíços estão em uma posição mais vulnerável. A União Europeia, por exemplo, adotou em 2024 uma lei específicaLink externo que obriga os fornecedores de sistemas de IA de alto risco a garantir transparência e a mitigar ativamente a discriminação e o preconceito. “Por esses motivos, eu e os representantes dos dois comitês argumentamos que a Suíça deve agir o mais rápido possível para combater a discriminação algorítmica”, acrescenta Schüttel.

Lacunas na legislação suíça

Para a jurista Nadja Binder, professora de direito público na Universidade da Basileia, existem lacunas claras na legislação suíça em relação aos riscos de discriminação representados pelas ferramentas de IA. “Não há um vácuo legal, mas a proteção é fragmentada”, afirma.

A Constituição suíça proíbe a discriminação, por exemplo, com base em gênero, origem ou idioma. No entanto, os algoritmos podem contornar essas características protegidas usando dados aparentemente neutros – os chamados “proxies”, como código postal ou nome – que refletem a origem ou o histórico social.

O problema, de acordo com Binder, é que, com as leis atuais, é praticamente impossível identificar essa discriminação caso a caso. “Somente quando a discriminação afeta um grande número de pessoas é que podemos saber se ela é um fenômeno sistemático”, explica.

De acordo com a jurista, é necessário agir para corrigir essas deficiências. Binder argumenta que a IA pode multiplicar a discriminação existente na sociedade em grande escala, o que pode prejudicar o progresso social. “A IA não é progressiva. Ela toma decisões conservadoras com base nos dados históricos com os quais foi treinada”, alerta.

Por esse motivo, no parecer jurídico elaborado para os comitês, Binder e seu colega Florent Thouvenin, da Universidade de Zurique, conclamam a classe política a trabalhar em uma lei geral antidiscriminação que se aplicaria a vários setores, tanto públicos quanto privados. “A IA também oferece uma oportunidade: a de identificar a discriminação em nossa sociedade e corrigi-la”, diz o jurista.

Governo “forçado a agir”

Entrevistada pela Swissinfo, a ministra suíça do Interior, Elisabeth Baume-Schneider, disse que estava levando “a sério” as recomendações de Braun Binder e Thouvenin. “Estamos conscientes da necessidade de definir de forma mais transparente o papel dos algoritmos nas decisões que têm impacto sobre a população”, declara.

>> ONG e sociedade civil criticaram a Convenção sobre IA do Conselho da Europa. Clique no artigo abaixo para saber mais…

 Para Baume-Schneider, está claro que a IA está em toda parte e que seu uso extensivo pode tornar a discriminação mais rápida e generalizada, especialmente contra aqueles que já são desfavorecidos, mais pobres ou marginalizados. Por esse motivo, a transparência nas decisões tomadas em qualquer nível – médico, social, educacional ou financeiro – com o apoio da IA deve ser uma prioridade.

Como primeiro passo nessa direção, o governo federal decidiu ratificarLink externo a Convenção sobre IA do Conselho da Europa. Trata-se de um tratado internacional que visa garantir que as tecnologias de IA sejam usadas de forma a respeitar os direitos fundamentais, incluindo o direito à não discriminação. “Devemos nos esforçar para implementar essa convenção em nosso país”, diz Baume-Schneider.

Para Braun Binder, a assinatura da Convenção do Conselho da Europa é um passo positivo que impulsiona a Suíça a tomar medidas mais concretas para evitar a discriminação relacionada aos sistemas de IA.

Baume-Schneider confirma à Swissinfo que Berna já está trabalhando para alinhar suas leis à convenção e criar uma estrutura legal para fechar as lacunas existentes. Caberá então ao governo e, posteriormente, ao Parlamento, decidir sobre eventuais alterações legislativas. A ministra admite que o parecer jurídico de Braun Binder e Thouvenin certamente obriga o governo a agir.

Essa posição ressalta a urgência política da questão. “Não se trata de demonizar os algoritmos”, diz Baume-Schneider, “mas de reconhecer que as decisões tomadas de forma opaca pela IA podem ter consequências políticas, jurídicas e econômicas”.

Edição: Marc Leutenegger 

Adaptação: Alexander Thoele com ajuda do Deepl