Inteligência artificial está fora do controle (democrático)

Precisamos pesquisar mais, formar especialistas e angariar fundos para estabelecer sistemas de governança de inteligência artificial (IA) semelhantes aos introduzidos nas indústrias de aviação, farmacêutica e alimentícia.

Em 29 de março, uma carta publicada nas mídias internacionaisLink externo pediu uma “pausa em experimentos de inteligência artificial”. Ela foi assinada por cerca de três mil acadêmicos e empresários do setor. Porém a questão já está vencida.

Na última década, algoritmos poderosos foram desenvolvidos e implantados às pressas em grande escala, dentre eles ChatGPT ou MidJourney. Sistemas semelhantes de tecnologia IA já foram utilizados na detecção de fraudes, filtragem de currículos, vigilância por vídeo e até mesmo atendimento ao cliente (mesmo apesar de deficiênciasLink externo ainda recorrentes e preconceitos).

Mas sua principal aplicação é, sem dúvida, o marketing. Muitas das maiores gigantes de tecnologia como Google, TikTok e Meta lucram com a publicidade gerida nos seus sites. O primeiro cliente conhecido da ChatGPT foi a Coca-Cola, o que já deveria ser um sinal de alerta.

Bio

Lê Nguyên Hoang é um dos fundadores e hoje chefe da start-up Calicarpa. Também foi um dos fundadores e presidente da Associação Tournesol. Seu canal “Science4AllLink externo” na plataforma YouTube já ultrapassou 18 milhões de visualizações desde o lançamento em 2016.

Ao mesmo tempo, esses algoritmos também já ajudaram a disseminar desinformação, pseudo-medicamentos e prejudicar a saúde mentalLink externo. Alguns permitiram a existência de mercados ilegaisLink externo (mesmo de escravos).

Os algoritmos também têm alimentado ódio, ajudado a desestabilizar democracias e também contribuído em genocídiosLink externo, como declarou a ONU ou a Anistia Internacional. São uma ameaça à segurança nacional.

No entanto, seu desenvolvimento é extremamente opaco. Poucas entidades externas podem analisar os algoritmos do Google, Meta ou OpenAI. Os departamentos de controle interno foram até mesmo removidos: Google demitiu sua equipe de ética; Meta desmantelou sua equipe de inovação e Microsoft demitiu todo o departamento de ética depois de críticas feitas à implantação apressada, antiética e insegura da tecnologia. Empresas poderosas em busca de lucro têm sido bem-sucedidas em criar um estado mundial onde seus algoritmos podem ser projetados com pouca responsabilidade.

Governança efetiva de IA

A indústria de software está longe de ser a primeira indústria sem controles. Por décadas, empresas dos setores de aviação, automobilística, farmacêutica, alimentícia, tabaco, construção, energia, entre muitas outras, comercializaram seus produtos sem controles. Isso custou milhões de vidas. As sociedade eventualmente se opuseram à alarmante falta de responsabilidade. Em todas as democracias, leis rigorosas e agências reguladoras garantem hoje o controle democrático desses mercados. A indústria de software precisa de uma supervisão semelhante.

Precisamos urgentemente favorecer tecnologias seguras e éticas, em vez de exigir que nossos países liderem a corrida da inteligência artificial. Concretamente, a performance dos algoritmos que operam nossas redes inteligentes, carros, aviões, usinas de energia, bancos, centros de dados, redes sociais e smartphones deveria importar muito menos do que sua segurança.

Como alertamos em um livro publicado em 2019Link externo, se esses algoritmos forem frágeis, vulneráveis, infiltráveis ou terceirizados para um provedor não confiável, ou se violarem os direitos humanos – o que geralmente aconteceLink externo – estaremos todos em grande perigo.

No entanto, a indústria de software e as universidades, assim como os incentivos legais e econômicos atuais, em sua maioria estão prejudicando a segurança. Com muita frequência, os pesquisadores mais citados, celebrados e financiados, os técnicos de software mais bem pagos e as empresas mais bem-sucedidas são aqueles que negligenciam a segurança e a ética. Como um número crescente de especialistas acredita, isso precisa mudar. Urgentemente.

Nossas democracias não podem se dar ao luxo de esperar décadas para estabelecer leis e agências de inspeção, como foi necessário em outras indústrias. Dada a velocidade com que algoritmos são desenvolvidos e implantados, temos apenas uma janela de tempo muito pequena para agir. A carta aberta assinada por mim e outros pesquisadores tem como objetivo estender um pouco essa janela.

Tarefa das organizações e instituições

Instaurar o controle democrático sobre os algoritmos mais críticos é um empreendimento urgente, que não será alcançado em tempo hábil sem a participação de um grande número de indivíduos com diversos talentos, conhecimentos e responsabilidades.

Um primeiro desafio é a atenção. Devemos investir urgentemente mais tempo, energia e recursos para garantir que nossos colegas, organizações e instituições prestem mais atenção à cibersegurança. Os funcionários das grandes companhias tecnológicas não devem mais ser convidados e celebrados, especialmente em universidades e mídia, sem serem questionados sobre a segurança e a ética dos produtos que financiam. De forma mais geral, em todas as discussões sobre tecnologia, devemos perguntar “o que pode dar errado?”.

Um segundo desafio é institucional. Embora sejam necessárias novas leis, é provável que os algoritmos em de hoje já estejam violando as leis existentes. Alguns lucram com golpes na redeLink externo. No entanto, a falta de supervisão externa bloqueia a Justiça. Devemos exigir que os formuladores de políticas criem agências reguladoras bem financiadas para fazer cumprir a lei.

A Suíça frequentemente desempenhou um papel exemplar na definição de normas democráticas. Esta é uma oportunidade para dar continuidade a essa nobre tradição. Além disso, o país recentemente buscou se tornar um ator de importânciaLink externo no campo da cibersegurança. Capacitar organizações de controle será fundamental para serem reconhecidos como tal em todo o mundo.

Um terceiro desafio está em projetar alternativas seguras e governadas democraticamente para os algoritmos mais impactantes. É nisso que tenho trabalhado na maior parte dos últimos cinco anos, junto com meus colegas, ao estabelecer o projeto sem fins lucrativos TournesolLink externo. Nosso algoritmo foi gerado através de uma votação segura e justa sobre o comportamento preferido pela comunidade e qualquer pessoa pode se juntar ao projeto.

Quanto mais rápido priorizarmos a segurança de nossos ecossistemas de informação, mais cedo teremos a chance de proteger a sociedade das atuais vulnerabilidades das redes.

Edição: Sabina Weiss

Adaptação: Alexander Thoele

A opinião expressa neste artigo é exclusivamente do autor e não necessariamente reflete as opiniões da SWI swissinfo.ch.