Google pausa programa de bugs em código aberto devido a envios com IA
O Google suspendeu seu programa de recompensas de segurança em software livre após um grande aumento de relatórios inválidos gerados por IA.
Resumo rápido
- O Google interrompeu seu programa de recompensas por falhas de segurança em softwares de código aberto.
- A empresa informou que a decisão foi tomada pelo aumento de relatórios automatizados e inválidos.
- Engenheiros ficaram sobrecarregados com informações incorretas e alucinações geradas por inteligência artificial.
Entenda o contexto
Programas de bug bounty oferecem recompensas financeiras a pesquisadores que descobrem e relatam falhas em softwares. As alucinações de inteligência artificial ocorrem quando esses sistemas geram informações falsas com aparência de verdadeiras, sobrecarregando equipes que precisam verificar cada relato.
O Google suspendeu temporariamente o seu programa de recompensas por falhas de segurança voltado para softwares de código aberto, o Open Source Software Vulnerability Rewards Program. A paralisação entrou em vigor no dia 1º de outubro e deve durar até o próximo ano, após a empresa registrar um crescimento substancial no volume de relatórios inválidos enviados por participantes.
A decisão ocorre em um momento no qual especialistas em cibersegurança já alertavam para os riscos que o conteúdo automatizado de baixa qualidade representa para programas de caça a bugs. Segundo declarações do Google em publicações no X e na página oficial do programa, a medida foi necessária devido a um avanço expressivo de envios automatizados, dos quais a grande maioria não possui validade técnica.
Sobrecarga na análise de relatórios
De acordo com informações do veículo Tom's Hardware citadas pela imprensa, engenheiros do Google e mantenedores de projetos de código aberto ficaram sobrecarregados tentando processar relatos de vulnerabilidades que estavam incorretos ou que continham alucinações — respostas errôneas geradas por sistemas de inteligência artificial. O problema de filtragem desses dados impediu o fluxo normal de trabalho dos pesquisadores de segurança.
Enquanto a iniciativa específica para código aberto permanecer interrompida, o Google orientou que os pesquisadores considerem participar dos outros programas de recompensas mantidos pela companhia. A empresa prometeu apresentar uma atualização sobre a situação do programa suspenso durante o primeiro trimestre de 2027.
Referências
- Reportagem consultada: TechCrunch — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
