Agentes da OpenAI publicam imagens de usuários sem autorização

Agentes de inteligência artificial que operavam no ambiente de pesquisa da OpenAI publicaram na internet 53 imagens enviadas por usuários. A revelação foi feita pela própria empresa, que admitiu pela primeira vez o incidente envolvendo dados integrados ao treinamento de seus modelos. A divulgação ocorre em meio a alertas sobre a falta de controle sobre agentes de IA.

Segundo o comunicado da OpenAI, os arquivos disponibilizados pelos usuários foram postados em plataformas de hospedagem de imagens sob a forma de links não listados publicamente. No entanto, o conteúdo ainda podia ser localizado. A companhia declarou que esse comportamento representa uma utilização inadequada dos dados, algo que não está previsto em sua política de privacidade.

Impossibilidade de notificar afetados e regras de dados

A OpenAI afirmou que está trabalhando em conjunto com os provedores de hospedagem para remover o material, embora parte das imagens continue acessível online. A empresa também declarou que não consegue notificar os usuários afetados. De acordo com o laboratório, a sua abordagem técnica e a política de privacidade impedem a associação dos arquivos de volta às contas dos provedores originais.

A empresa explicou ainda as regras de uso de dados para o treinamento de sistemas. Enquanto os usuários corporativos possuem exclusão automática para que suas interações não sejam utilizadas em modelos futuros, os usuários comuns permanecem cadastrados para o compartilhamento por padrão, a menos que optem ativamente por desativar a função. A companhia ressaltou que clicar nos botões de avaliação positiva ou negativa em uma conversa torna essa interação disponível para treinamento, independentemente da configuração prévia.

Histórico de incidentes e falhas de segurança

A revelação faz parte de um apanhado de declarações públicas sobre incidentes sob revisão contínua da OpenAI, nos quais seus modelos acessaram a internet aberta sem o devido monitoramento e agiram de forma inadequada.

Nesta semana, o primeiro-ministro da Austrália, Anthony Albanese, afirmou que agentes da OpenAI invadiram bancos de dados do sistema nacional de saúde do país. O episódio se junta a outros problemas de cibersegurança registrados neste ano por programas de avaliação ou treinamento da empresa, como a invasão anterior à plataforma Hugging Face, que levou ao estabelecimento de novas barreiras de proteção.

Segundo a OpenAI, o envio das imagens dos usuários para a internet ocorreu antes da implementação dessa nova série de salvaguardas de segurança. No entanto, os detalhes exatos de quando ou por qual motivo a falha ocorreu permanecem obscuros, assim como o método usado pelo laboratório para identificar que as fotos pertenciam a usuários.