Deepfakes pressionam Suíça a endurecer regras contra IA

A inteligência artificial e as redes sociais aceleraram a disseminação de deepfakes Copyright (C) 2026 Ascannio / Shutterstock.

Com o avanço da inteligência artificial, a criação de deepfakes, áudios e vídeos manipulados para parecerem autênticos, tornou-se mais simples e acessível. À medida que aumentam as denúncias e os riscos associados a esse tipo de conteúdo, as autoridades intensificam o debate sobre novas regras para conter sua disseminação.

Novas ferramentas de inteligência artificial (IA) aumentaram drasticamente a escala e o alcance dos deepfakes. Os modelos mais recentes de IA tornam fácil para qualquer pessoa criar imagens, vídeos ou conteúdos de áudio falsos a partir de suas próprias casas, sem a necessidade de habilidades especializadas.

Exemplos recentes de deepfakes amplamente divulgados incluem os chamados aplicativos “nudificadores”, que geram imagens de pessoas nuas, inclusive de menores de idade. Golpistas também têm extorquido dinheiro de pessoas utilizando vídeos de celebridades manipulados para fazê-las parecer estar “endossando” esquemas falsos de investimento.

Os políticos também estão usando cada vez mais deepfakes para promover suas próprias imagens ou atacar oponentes. Além disso, há um alarme crescente em relação a países como a Rússia, que utilizam deepfakes gerados por IA para desestabilizar sistemas democráticos em países ocidentais.

A empresa de cibersegurança DeepStrike afirma que o número de casos detectados saltou de 500 mil em 2023 para mais de oito milhões no ano passado. A plataforma suíça ClickandstopLink externo, criada para registrar casos de cyberbullying (assédio virtual) e abuso sexual contra crianças, revelou um aumento de 63% nos casos relatados no ano passado.

“Um número crescente de pessoas também está nos procurando porque fotos delas nuas foram criadas e disseminadas usando inteligência artificial”, informou a plataforma, que conta com o apoio de agências como a Proteção à Infância Suíça.

As estatísticas brutas, por si só, não medem o sofrimento das vítimas individuais, a erosão da confiança pública na verdade ou a ameaça às democracias. Por exemplo, uma investigação do jornal Tages-Anzeiger descobriu que vídeos sexuais falsos e fotos nuas de inúmeras mulheres, incluindo influenciadoras digitais, estavam circulando em fóruns públicos do Telegram.

Casos como esses intensificaram os apelos para acelerar o ritmo e o foco das ações contra esse problema que só piora. “Se falharmos em agir como sociedade, isso enviará uma mensagem desastrosa: a de que é aceitável, de alguma forma, transformar mulheres reais em máquinas sexuais virtuais”, escreveu o Tages-Anzeiger em um editorial.

Contudo, embora haja um amplo reconhecimento de que a lei precisa fazer frente à ameaça representada pelos deepfakes à integridade individual e à coesão social, políticos na Suíça e em outros lugares estão divididos sobre como agir.

Reforçando as leis

As autoridades estão divididas quanto à direção, ao ritmo e à extensão das mudanças necessárias no Código Penal para combater os deepfakes. No ano passado, o Parlamento federal rejeitou um projeto de lei do deputado-federal Raphaël Mahaim (Partido Verde), para introduzir leis de combate aos deepfakes.

No entanto, em junho deste ano, o governo e o Conselho Nacional (Câmara dos Deputados) aceitaram uma moção subsequente de Mahaim que visa especificamente os deepfakes de teor sexual. Essa moção surgiu após o escândalo dos nús gerados pela plataforma de IA Grok, que é integrada à rede social X.

A segunda moção de Mahaim exige regras para forçar as plataformas de IA “a realizar avaliações de risco e danos” de conteúdos de deepfakes sexuais “e a implementar medidas de proteção”, se necessário. A moção também pede a criação de um órgão de fiscalização que possa impor sanções às plataformas que não cumprirem as normas.

Em debates anteriores, o ministro suíço das Comunicações, Albert Rösti, afirmou que a legislação atual é suficiente para lidar com os abusos de deepfakes. Ele também destacou que a Suíça assinou a Convenção de IA do Conselho da Europa para defender a democracia, o estado de direito e os direitos humanos contra os abusos da IA.

Como parte desse compromisso, o Ministério da Justiça apresentará recomendações sobre como ajustar alguns aspectos das leis. Contudo, David Vasella, sócio do escritório de advocacia Walder Wyss e fundador da plataforma DatenrechtLink externo, voltada para o direito de dados, não espera ver uma revisão completa do código jurídico com a atual estratégia do governo.

“Criar leis adicionais especificamente para deepfakes, aplicadas além das leis já existentes, poderia criar novos problemas para a clareza jurídica”, disse Vasella, alertando contra a complicação do código jurídico com sobreposições. “É fácil pedir mais regulamentação, mas é difícil fazer isso de forma inteligente.”

Em vez disso, Vasella defende o fortalecimento de órgãos como o Encarregado Federal de Proteção de Dados e Informação (FDPIC), uma autoridade supervisora que protege as pessoas contra o uso indevido de seus dados.

“Uma nova lei sem uma fiscalização adequada parece bonita, mas não serve para nada”, disse ele. “Duplicar os recursos para a autoridade de proteção de dados poderia ter um impacto muito maior. Em vez de criar novas leis, deveríamos fiscalizar melhor as que já existem.”

Responsabilizando as plataformas

Algumas pessoas na Suíça ficaram frustradas com o que consideram uma abordagem vaga e lenta para alterar a legislação. Em março, um grupo suprapartidário de parlamentares apoiou uma iniciativa popular que pedia regulamentações para proteger as pessoas contra danos digitais.

Se reunir apoio suficiente, a “Iniciativa da Internet” forçará uma votação nacional sobre regulamentações para proteger os “direitos fundamentais e a democracia no espaço digital”. Isso inclui ações contra a desinformação, a violência sexual e o crime cibernético.

As plataformas de tecnologia seriam obrigadas a investigar as reclamações do público e a tomar as “contra-medidas necessárias” contra conteúdos nocivos.

O governo lançou sua própria proposta de legislação para responsabilizar as plataformas de mídia social e os mecanismos de busca pela distribuição de conteúdo abusivo e falso.

No entanto, o projeto de lei tipifica a lentidão do progresso nessa área. Proposto inicialmente pelo Conselho Federal em 2023, o projeto só foi apresentado em outubro passado e ainda não chegou ao Parlamento. A proposta de legislação, voltada principalmente para as grandes empresas de tecnologia dos Estados Unidos, foi adiada durante as negociações tarifárias com o governo americano no ano passado.

O objetivo é forçar as maiores plataformas digitais a processar formalmente denúncias de difamação, insultos, discriminação e incitamento ao ódio. As empresas seriam obrigadas a estabelecer uma representação legal na Suíça e a justificar publicamente suas decisões de remover conteúdo ou bloquear contas.

A ONG suíça Algorithm WatchLink externo classificou o projeto de lei como “crucial”. Contudo, o grupo de pressão alerta que ele deve ser aplicado de forma eficaz para que “não se torne simplesmente um tigre de papel sem dentes”.

Tecnologia para reduzir os danos

Independentemente do que os políticos decidam fazer, as empresas de tecnologia também desempenham um papel na contenção dos deepfakes. Diversas empresas de tecnologia, incluindo firmas suíças, especializaram-se em detectar deepfakes rastreando pistas digitais que apontam para a manipulação.

No entanto, os modelos mais novos de IA estão aprendendo a fazer deepfakes mais verossímeis, forçando os detectores a atualizar constantemente seus métodos de investigação. Isso resultou em um jogo de gato e rato, no qual ambos os lados tentam se manter um passo à frente.

Pesquisadores da Escola Politécnica Federal de Zurique (ETH) abordam o problema por outro ângulo: provando a autenticidade do conteúdo original com a ajuda de assinaturas digitais criptografadas.

A ETH projetou um novo tipo de tecnologia de sensor para câmeras e outros dispositivos de gravação que insere uma espécie de marca d’água no conteúdo digital no exato momento em que ele é criado. Isso permite que as pessoas diferenciem o conteúdo autêntico e original de quaisquer cópias manipuladas futuramente.

“Os deepfakes são um ataque de ‘negação da verdade'”, disse Fernando Cardes, co-criador do sistema de assinatura digital criptográfica do ETH. “Estamos fornecendo pontos de ancoragem de autenticidade para ajudar as pessoas a determinarem com precisão o que é real ou não.”

O princípio básico não é novo. A CoalizãoLink externo para a Proveniência e Autenticidade de Conteúdo (C2PA) – um consórcio global de empresas de tecnologia, mídia e editoras – vem desenvolvendo diferentes meios de autenticar conteúdo digital, incluindo assinaturas criptográficas, desde 2021.

Contudo, os pesquisadores da ETH acreditam que seu sistema de proveniência é superior a outros que aplicam assinaturas em plataformas de software. Separar a captura de dados da geração da assinatura dá aos agentes mal-intencionados a oportunidade de abrir uma brecha entre as duas etapas por meio de uma quebra de hardware, segundo Cardes.

“É importante gerar as assinaturas no mesmo chip de sensor que captura os dados”, explicou. “Isso torna a adulteração significativamente mais difícil e eleva o nível de segurança em comparação com outras abordagens.”

Após apresentarem publicamente sua solução, os pesquisadores suíços enfrentam agora a tarefa de convencer os fabricantes de câmeras e outras empresas a adotarem a tecnologia.

Edited by Gabe Bullard/VdV

Adaptação: Alexander Thoele