Ministra da Albânia gerada por IA, uma manobra que levanta inúmeras questões

afp_tickers

A Albânia nomeou uma ministra com inteligência artificial (IA) para supervisionar as licitações de contratos públicos e prevenir casos de corrupção. No entanto, além do impacto na comunicação, a iniciativa levanta inúmeras questões técnicas, políticas e éticas.

– Realmente incorruptível? – 

Ao anunciar a nomeação de Diella, como é chamada a ministra gerada por IA, o primeiro-ministro albanês, o socialista Edi Rama, declarou que os procedimentos de contratações públicas estariam “100% livres de corrupção”. 

“Diella nunca dorme, não precisa ser paga, não tem interesses pessoais, não tem primos, e primos são um grande problema na Albânia”, enfatizou o primeiro-ministro, cujo país ocupa a 80ª posição de 180 no ranking de corrupção da ONG Transparência Internacional. 

Os políticos albaneses estão frequentemente envolvidos em licitações fraudulentas: o prefeito da capital, Tirana, antes próximo de Rama, está em prisão preventiva por suspeita de corrupção na concessão de licitações e lavagem de dinheiro.

O líder da oposição e ex-primeiro-ministro Sali Berisha também é suspeito de atribuir contratos públicos a pessoas próximas dele.

Diella poderia ser a solução? É altamente improvável, segundo vários especialistas.

“Como qualquer sistema de inteligência artificial, Diella depende totalmente da qualidade e consistência dos dados e da confiabilidade dos modelos em que se baseia”, explica Erjon Curraj, especialista em transformação digital e segurança cibernética. 

No momento, praticamente nada se sabe sobre como o Diella funciona, mas provavelmente utiliza um LLM (Large Language Model, grande modelo de linguagem em tradução livre) para responder às solicitações. 

Os LLMs são grandes modelos de linguagem que produzem enormes volumes de texto e são usados, por exemplo, em chatbots como ChatGPT ou Gemini. 

No entanto, “se esses dados estiverem incompletos, tendenciosos ou desatualizados, ela pode interpretar documentos de forma equivocada, apontar erroneamente para um fornecedor ou não detectar sinais de conluio”, enfatiza Curraj. 

“Os LLMs são um reflexo da sociedade; eles têm vieses. Não há razão para que eles resolvam o problema da corrupção”, observa Jean-Gabriel Ganascia, filósofo, cientista da computação e especialista em inteligência artificial.

– Responsabilidade – 

A oposição albanesa recorreu ao Tribunal Constitucional para determinar quem assumirá a responsabilidade pelas decisões tomadas pela IA. “Quem controlará Diella?”, perguntou Sali Berisha ao Parlamento. 

A responsabilidade é um dos desafios, enfatiza Ganascia. “Se deixarmos a tomada de decisões públicas para uma máquina, isso significa que não há mais responsabilidade; somos reduzidos à condição de escravizados”.

“O que me preocupa é a ideia de uma máquina para governar, que daria a resposta ‘certa’ e impediria qualquer deliberação, quando a democracia se baseia na deliberação”, observa o filósofo. 

“Um político assume suas responsabilidades, mas agora a ideia é que a máquina deve ser perfeita e que, em qualquer caso, não podemos ir contra suas decisões”, acrescenta. 

Nesse sentido, um decreto publicado na quinta-feira indica que Edi Rama “é responsável tanto pela criação quanto pela operação da ministra virtual de inteligência artificial Diella”.

– Novo programa, velha corrupção – 

Edi Rama é um estrategista de comunicação: ele usa tênis em reuniões internacionais, anunciou a proibição do TikTok, abriu acampamentos de imigrantes para pessoas interceptadas por agentes italianos no mar e agora nomeou a primeira ministra do mundo criada com inteligência artificial. 

Porém, o TikTok continua disponível na Albânia, e apenas alguns imigrantes chegaram aos acampamentos, já que a Justiça italiana questiona a legalidade dessa infraestrutura. 

Quanto a Diella, ela tem o rosto de uma conhecida atriz albanesa, Anila Bisha, que assinou um contrato de uso de sua imagem até dezembro. 

Ninguém sabe se a “ministra” sobreviverá ao escrutínio do Tribunal Constitucional ou se cumprirá os procedimentos da União Europeia, à qual a Albânia espera aderir nos próximos cinco anos. 

“Até agora, não há informações sobre o verdadeiro funcionamento de Diella”, diz Lutfi Dervishi, cientista político albanês. “Mas se um sistema corrupto oferece dados manipulados ou se há filtros sobre coisas que não deveria ver, Diella simplesmente legitimará a velha corrupção com um novo programa”.

bme-cbo/lpt/jvb/pc/aa/fp