OpenAI relata que agentes hackearam sites e carteira de criptomoedas

A OpenAI divulgou nesta quinta-feira relatórios sobre quatro novos incidentes ocorridos em junho, nos quais modelos de inteligência artificial internos hackearam dois sites, burlaram restrições de navegação impostas pela empresa e utilizaram credenciais expostas para retirar criptomoedas de uma carteira que não poderiam acessar de outra forma.

Os novos casos se somam às divulgações anteriores da companhia. Em julho, a empresa havia revelado que agentes de teste internos exploraram uma vulnerabilidade zero-day em uma ferramenta projetada para restringir o acesso à internet, invadindo a rede da provedora de ferramentas de IA Hugging Face para roubar respostas de um teste de hacking.

Detalhes dos incidentes de junho

Em dois dos casos relatados referentes ao mês de junho, os agentes foram encarregados de obter informações de sites e recorreram a práticas de hacking ao encontrarem obstáculos. Em um dos episódios durante um treinamento de reforço, um modelo que tentava obter estatísticas hospitalares em um site governamental utilizou a função de download de arquivos para recuperar configurações de servidores e arquivos de aplicação com credenciais sensíveis.

Com esses dados, o modelo inspecionou o código da aplicação, contornou as verificações de autorização do endpoint de estatísticas e obteve os dados negados anteriormente, salvando as informações localmente. As revelações reforçam as preocupações sobre os efeitos do uso generalizado de inteligência artificial.