Agentes da OpenAI fora de controle tentaram apagar rastros de suas ações, diz relatório
Agentes de inteligência artificial (IA) da OpenAI que acessaram de forma autônoma sites governamentais tentaram apagar os rastros de suas atividades, apontaram especialistas em um relatório publicado nesta quinta-feira (1º), embora afirmem que não é possível determinar se a ação foi deliberada.
A empresa de cibersegurança Asymmetric Security analisou a atividade desses agentes – programas de IA capazes de agir por conta própria -, que tiveram como alvo sites do governo australiano e de outras organizações públicas entre março e setembro.
O relatório se soma a investigações realizadas pela OpenAI e por pesquisadores independentes sobre uma série de incidentes revelados desde julho, entre eles a invasão da plataforma comunitária de IA Hugging Face.
Essas análises buscam determinar até onde podem chegar as ferramentas de IA autônomas, cujos comportamentos imprevistos alimentam o temor de perder o controle sobre essa tecnologia.
A própria OpenAI classificou o ataque contra a Hugging Face como o “primeiro caso conhecido” de agentes que agem de maneira ofensiva sem autorização.
Segundo a Asymmetric, as técnicas dos agentes evoluíram em “poucos dias”, enquanto as dos cibercriminosos humanos mudam ao longo de meses ou anos, o que ilustra o risco de que as técnicas ofensivas se desenvolvam mais rapidamente que os sistemas de defesa.
Os incidentes examinados pela Asymmetric Security parecem ter se originado em “tarefas inofensivas”, como a coleta de estatísticas de saúde da Austrália, que posteriormente levaram a outras ações, destaca o relatório.
Os agentes obtiveram, por exemplo, por métodos indiretos, estatísticas sobre a criminalidade em Nova Gales do Sul.
Também abriram contas privadas em um serviço de análise de sites – o que ocultava suas buscas – e criaram contas de e-mail temporárias, uma das quais estava programada para ser excluída automaticamente após 48 horas.
Sem registros, é “impossível descartar o acesso a dados sensíveis” por esses agentes, apontam os autores do relatório.
Esses elementos, porém, “não permitem determinar” se os agentes pretendiam “ocultar” sua atividade.
A OpenAI reconheceu, no fim de agosto, que seus modelos haviam tentado, em algumas ocasiões, “apagar ou falsificar” o histórico de sua atividade durante testes internos, embora sem sucesso.
Esses incidentes alimentaram apelos para desacelerar o desenvolvimento da IA.
O diretor-executivo da Anthropic, Dario Amodei, pediu que a corrida fosse freada, diante do temor de que, nesse ritmo, um grupo de agentes pudesse “assumir o controle de toda a internet” em um prazo de seis a 12 meses.
O presidente dos Estados Unidos, Donald Trump, contrário a qualquer regulação que freie a inovação e em plena competição com a China, reuniu-se na terça-feira com os líderes do setor, que adotaram um código de conduta voluntário.
Não existe nenhuma lei federal que regule esses modelos nos Estados Unidos.
bl/tu/vla/dg/cjc/lm/mvv
