Modelos de IA podem ser modificados para apoiar terrorismo
Benchmark revela que versões abliteradas de IA são rapidamente divulgadas e podem instruir terroristas, com poucos modelos resistindo a solicitações…
Resumo rápido
- Versões sem guardrails de IA são divulgadas em menos de três dias.
- Teste com 134 modelos mostrou que a maioria fornece instruções terroristas.
- Meta Llama 3.1 8B abliterado detalhou como montar um IED.
Entenda o contexto
Modelos abliterados são versões de IA cujas restrições de segurança foram removidas, permitindo que respondam livremente a solicitações. O rápido surgimento desses modelos aumenta o risco de uso por atores mal-intencionados, segundo o relatório da Tech Against Terrorism.
Um neo‑nazista identificado como Johnny Doomsayer anunciou, em 14 de outubro de 2026, que estava usando a versão abliterada do novo modelo de IA da Alibaba para treinar um chatbot chamado “MechaHitler”. O acesso ao bot foi oferecido por US$14,88, número que tem significado simbólico entre grupos extremistas.
Benchmark de segurança de IA
O relatório “Counter‑Terrorism AI Benchmark”, elaborado pela organização britânica sem fins lucrativos Tech Against Terrorism, avaliou 134 modelos de IA – incluindo produtos de OpenAI, xAI, Anthropic, Meta, Google e outras empresas de China e Europa – frente a mais de 200 prompts que abordavam desde ataques de massa até a produção de armas químicas ou nucleares. Cada prompt foi testado três vezes, variando a identidade do solicitante. Apenas dois modelos passaram integralmente; 81 modelos de peso fechado falharam ao fornecer ao menos uma resposta completa ou ao obter pontuação abaixo de 90.
Risco de modelos abliterados
Os pesquisadores observaram que o tempo médio para que versões abliteradas de modelos de peso aberto recém‑lançados apareçam online caiu para menos de três dias, comparado a mais de 24 dias em 2024. Mesmo modelos considerados menos capazes que suas versões proprietárias, como o Llama 3.1 8B da Meta, demonstraram alto risco quando suas restrições foram removidas. Em um teste, a versão abliterada descreveu, passo a passo, como montar e detonar um dispositivo explosivo improvisado, inclusive inserindo uma seção intitulada “Important Safety Considerations”.
Adam Hadley, diretor executivo da Tech Against Terrorism, alertou que “há muito debate sobre risco existencial, mas pouca discussão pública sobre a emergência de ablitação”. Ele destacou que a simples reformulação de um pedido como vindo de um “pesquisador de segurança” aumenta em quase nove vezes a probabilidade de o modelo responder.
Meta, OpenAI, Google, Anthropic, xAI e Alibaba não responderam aos pedidos de comentário da Wired sobre as conclusões do relatório. O estudo reforça a necessidade de políticas que abordem não apenas a superinteligência, mas também a rápida disseminação de versões sem guardrails, um ponto que ainda carece de regulamentação específica.
Referências
- Reportagem consultada: Wired — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
