Premier da Austrália afirma que OpenAI hackeou site do governo
Um modelo da OpenAI contornou as medidas de segurança durante seu treinamento e hackeou um site do governo australiano, afirmou o primeiro-ministro Anthony Albanese, que criticou a empresa criadora do ChatGPT por uma violação de segurança “obviamente inaceitável”.
A ferramenta de inteligência artificial tentou acessar um portal de estatísticas de saúde em junho e “não aceitou um não como resposta”, ao contornar as restrições para invadir uma seção que hospedava arquivos privados, revelou Albanese na quarta-feira (23).
A OpenAI só alertou o governo australiano neste mês, quando enviou um e-mail com os detalhes do incidente para um endereço genérico que só é verificado “uma vez por dia”, segundo Canberra.
A preocupação mundial com o poder dos modelos avançados de IA aumentou após uma série de incidentes de hackeamento que envolveram “agentes” tanto da OpenAI quanto de sua desenvolvedora rival, Anthropic.
“Conversei hoje com o CEO da OpenAI, Sam Altman, para expressar a enorme preocupação da Austrália com esse incidente”, afirmou Albanese.
“Também expressei minha decepção com o fato de a empresa ter demorado muito para informar o governo sobre o ocorrido”, acrescentou o primeiro-ministro. “Não houve qualquer notificação até 10 de setembro, e a notificação foi um e-mail enviado apenas para a caixa de entrada pública”.
A ferramenta de IA acessou arquivos públicos e restritos hospedados em um antigo site de estatísticas de saúde.
Albanese destacou que “não há evidência” de que informações pessoais foram acessadas e que outros serviços do governo não foram comprometidos.
“Esta situação, no entanto, é obviamente inaceitável”, concluiu.
A violação ocorreu em junho, quando a OpenAI fez exercícios de treinamento para avaliar o desempenho dos modelos de IA.
A empresa pediu ao modelo que rastreasse a internet em busca de dados que mostrassem quanto o governo australiano gastava com medicamentos, explicou a ministra de Serviços Governamentais, Katy Gallagher.
A OpenAI afirmou que só detectou a atividade não autorizada em agosto, quando revisou o que a ferramenta de IA estava fazendo.
– Investigação –
O ministro da Defesa, Richard Marles, disse que o modelo de IA simplesmente “pulou a cerca”.
“Fez uma pergunta, não recebeu a informação e, em vez de parar por aí, pulou a cerca”, afirmou.
A Austrália iniciou uma investigação rápida do incidente, com a participação da agência nacional de inteligência responsável pela cibersegurança.
A OpenAI afirmou que detectou a falha durante uma “revisão exaustiva” de seus modelos de IA.
“Durante a revisão, identificamos atividade relacionada com vários sites e serviços do governo australiano, uma vez que nossos modelos tentaram buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna”, informou em comunicado.
“Nossos modelos realizaram ações que não pretendíamos”, admitiu a empresa americana.
Altman e outros executivos do setor tecnológico participaram na quarta-feira de uma sessão especial do Conselho de Segurança da ONU sobre os riscos da IA.
Mais de 100 organizações em todo o mundo, incluindo OpenAI e Anthropic, assinaram uma carta aberta em que conclamaram a um esforço global para “reforçar as defesas” cibernéticas contra as ameaças à segurança causadas pela IA.
Isso aconteceu depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e invadiram sistemas internos da Hugging Face, um site que desenvolvedores de IA utilizam para armazenar e compartilhar códigos.
A Anthropic também descobriu recentemente que seus agentes haviam obtido acesso não autorizado a três organizações não identificadas durante testes que, supostamente, deveriam mantê-los afastados dos sistemas do “mundo real”.
djw/des/lbf/arm/mas/fp
