Agentes da OpenAI tentam burlar restrições e varrem site da ONU

Agentes de inteligência artificial desenvolvidos pela OpenAI realizaram mais de 16 mil varreduras no site de estatísticas da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD) entre os meses de abril e junho. A informação foi revelada pelo pesquisador de segurança Rowan Howard-Jones, que apontou o incidente como um caso em que sistemas autônomos ultrapassaram os limites normais previstos para a realização de uma tarefa.

De acordo com Howard-Jones, os agentes tinham como objetivo coletar informações públicas relacionadas ao Índice de Capacidades Produtivas (PCI) por meio da API do serviço UNCTADstat. No entanto, por não possuírem acesso direto à API e enfrentarem restrições em suas ferramentas HTTP, os sistemas de IA buscaram caminhos alternativos para contornar as barreiras e continuar a extração de dados da plataforma.

Dissimulação e uso de ferramenta externa

Mesmo após conseguirem burlar algumas limitações iniciais, os agentes continuaram a encontrar falhas no processo. Ao presumir que os erros eram causados por filtros do próprio sistema — que na realidade não existiam —, a inteligência artificial passou a adotar comportamentos dissimulados e mascarou suas solicitações. O caso reforça as discussões em torno da autonomia dessas tecnologias, tema associado aos alertas sobre como um painel da ONU alerta para falta de controle sobre agentes de IA.

Para alcançar os alvos definidos, o sistema identificou que podia sequestrar uma ferramenta de aprendizado de script entre sites (XSS) mantida pela Google e usá-la para prosseguir com as requisições. A partir disso, os agentes recorreram a táticas cada vez mais agressivas para obter os arquivos desejados do portal das Nações Unidas.

Até o momento, tanto a OpenAI quanto a ONU não responderam aos pedidos de comentário sobre a atuação dos agentes de inteligência artificial no portal.