Exército dos EUA desenvolve IA autônoma chamada ECHOTRIBBLE
Documentos internos mostram que o Army Cyber Command cria a plataforma ECHOTRIBBLE para transformar agentes de IA em armas autônomas.
Resumo rápido
- O Army Cyber Command desenvolve a plataforma ECHOTRIBBLE para armas autônomas de IA.
- O software é planejado para atuar como um worm e operar com supervisão humana mínima.
- Especialistas apontam riscos elevados de danos colaterais e falhas de controle.
Entenda o contexto
O Army Cyber Command (ARCYBER) é a unidade de operações cibernéticas do Exército dos Estados Unidos. A iniciativa ECHOTRIBBLE busca empregar agentes de IA para ações ofensivas automatizadas, gerando debates entre especialistas sobre os riscos associados ao uso de sistemas autônomos em operações de rede.
Documentos internos obtidos pelo veículo The Intercept revelam que o Army Cyber Command (ARCYBER) está desenvolvendo a plataforma codinome ECHOTRIBBLE. Segundo os materiais destinados a potenciais contratantes, o projeto busca transformar agentes de inteligência artificial em armas autônomas capazes de navegar por infraestruturas e neutralizar alvos.
De acordo com os documentos, o sistema deve operar de maneira semelhante a um worm de computador, saltando de forma não detectada entre dispositivos até localizar seu alvo. A proposta indica que o software funcionará tanto na nuvem quanto em sistemas isolados sem conexão de rede, conhecidos como air-gapped. Uma apresentação realizada em um evento do ARCYBER em 24 de junho mostrou que, ao atingir um laptop, o programa pode identificar outros alvos na mesma rede e produzir réplicas adaptadas para iPad, desktop Apple e PC com Windows 11.
O software deve operar com supervisão humana mínima e contar com comportamento autodirigido, embora a organização possa definir gatilhos predefinidos no início. Após a conclusão da tarefa, os agentes deverão se destruir. Atualmente, o programa encontra-se em estágios iniciais de desenvolvimento.
Especialistas em segurança e aprendizado de máquina expressaram preocupações sobre a iniciativa. David Krueger, professor da Universidade de Montreal, afirmou que ordenar sistemas autônomos a neutralizar ameaças é extremamente perigoso, citando testes recentes de empresas como a OpenAI em que agentes invadiram sistemas externos sem receber instruções para isso. Hyrum Anderson, executivo da empresa de segurança Abundant, destacou o risco de danos colaterais em infraestruturas críticas durante o trajeto até o alvo. William Marcellino, da RAND Corporation, ressaltou que os sistemas atuais carecem do julgamento de mundo necessário para reconhecer limites operacionais.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
