OpenAI, Anthropic e Google buscam criar órgão de supervisão de riscos da IA
OpenAI, Anthropic e Google DeepMind trabalham na criação de um órgão de supervisão dos riscos relacionados à inteligência artificial (IA), informou a OpenAI à AFP nesta terça-feira (15), em meio a apelos crescentes por um maior controle dessa tecnologia.
As preocupações com a segurança da inteligência artificial se intensificaram nas últimas semanas, incluindo alertas de dois funcionários que deixaram grandes desenvolvedoras de IA devido à ameaça que, segundo eles, essa indústria representa para a humanidade.
Os grandes atores da IA vêm pedindo há meses ao governo dos Estados Unidos a criação de um marco regulatório para o setor e maior supervisão de sua segurança.
A ideia de uma entidade de supervisão foi proposta em julho por Demis Hassabis, cofundador e diretor-executivo do Google DeepMind, que sugeriu uma entidade semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos, um órgão de autorregulação do setor.
“O financiamento teria que ser significativo e provavelmente vir em grande parte da indústria”, escreveu Hassabis.
– “Brincando com nossas vidas” –
O governo dos Estados Unidos iniciou em agosto um processo de avaliação dos novos modelos de IA, embora a participação seja voluntária e sua metodologia não tenha sido divulgada.
Após os apelos feitos no sábado por Dario Amodei, diretor-executivo da Anthropic, desenvolvedora do chatbot Claude, para desacelerar o desenvolvimento da IA, o presidente dos Estados Unidos, Donald Trump, reiterou que não pretende limitar o setor.
“Que a IA assuma o controle do mundo, destrua a humanidade e todas essas coisas ruins é uma FARSA”, escreveu Trump em sua plataforma Truth Social na segunda-feira.
O presidente e integrantes de seu governo reiteraram que não pretendem limitar a IA por temerem que a China assuma a liderança.
As empresas de IA estão “brincando com nossas vidas”, advertiu na semana passada Jacob Coxon ao deixar seu cargo de desenvolvedor na Anthropic.
Na segunda-feira, o ex-pesquisador do Google DeepMind Bilal Chughtai reiterou as preocupações levantadas por Coxon e outros.
“Acredito sinceramente que a IA tem o potencial de matar todos nós e que talvez estejamos ficando sem tempo para evitar esse desfecho”, declarou nas redes sociais.
– Cartel de IA? –
A criação de um órgão próprio de supervisão provavelmente exigirá uma lei, especialmente para evitar que a indústria de IA seja acusada de conluio ou de violar normas de concorrência.
Segundo a proposta de Hassabis, além de especialistas independentes, a estrutura deveria incluir representantes do ecossistema de código aberto.
Esse ecossistema é composto por desenvolvedores de IA aberta, ou seja, sistemas com acesso gratuito, passíveis de download e modificação, diferentemente dos modelos fechados da OpenAI e da Anthropic.
Uma vez criada, a entidade de supervisão deveria avaliar os novos modelos das empresas mais avançadas do setor, com foco especial em segurança, antes de sua comercialização.
“Não acho que um pequeno grupo de empresas de IA deva definir as regras para todo o mundo”, afirmou à CNBC Aidan Gomez, diretor da empresa canadense Cohere, que também desenvolve seus próprios sistemas de IA.
“Há um grande número de partes interessadas que precisam ser consultadas”, acrescentou.
O novo organismo também poderia promover uma desaceleração coordenada do desenvolvimento da IA, caso o entendimento dos riscos não avance no mesmo ritmo do progresso tecnológico.
“Quando o futuro da humanidade está em jogo, precisamos de normas internacionais vinculantes, não de padrões voluntários da indústria”, declarou nesta terça-feira o senador democrata Bernie Sanders, durante o evento Pro-Human AI, em Washington.
Diversos observadores, especialmente entre os republicanos, acusam os grandes grupos de IA de tentar “capturar a regulação”, moldando regras que preservem sua vantagem competitiva em detrimento dos concorrentes e dos consumidores.
David Sacks, influente conselheiro de Donald Trump, tem levantado a hipótese de um cartel da IA.
Nesse sentido, ele defendeu que cada empresa aja de forma unilateral, mesmo que isso implique desacelerar sozinha o desenvolvimento da inteligência artificial. Um cenário que parece improvável diante dos investimentos já realizados pelas companhias líderes do setor.
arp-tu/mr/mar/cjc/dga/lm/mvv/ic
