Anthropic propõe bloqueio de IA nos EUA apenas em casos de risco catastrófico
Anthropic sugere que o governo dos EUA só possa suspender modelos avançados de IA quando houver risco de morte a mais de 50 pessoas ou prejuízo acima de US$ 1 bilhão.
Resumo rápido
- Anthropic propõe que o governo dos EUA bloqueie IA apenas em risco catastrófico.
- Risco inclui morte ou ferimentos graves a mais de 50 pessoas ou prejuízo acima de US$ 1 bilhão.
- Bloqueio dependeria de avaliação independente e decisão de juiz federal.
Entenda o contexto
A Anthropic é uma empresa de IA que desenvolve o modelo de linguagem Claude. A proposta trata de como o governo dos EUA poderia intervir preventivamente em casos de risco extremo associado a sistemas avançados de IA.
Em proposta divulgada ao Politico, a Anthropic – desenvolvedora do modelo Claude – sugeriu que o governo dos Estados Unidos só possa bloquear a implantação de modelos avançados de inteligência artificial quando houver risco catastrófico.
Critérios para o bloqueio
Segundo a empresa, os critérios incluem ameaças de morte ou ferimentos graves a mais de 50 pessoas ou prejuízos superiores a US$ 1 bilhão, ligados a armas biológicas, ciberataques ou à capacidade do modelo de escapar do controle.
Procedimento de avaliação
A proposta prevê avaliações regulares por avaliadores independentes, que teriam até 72 horas para comunicar ao Departamento de Comércio qualquer risco iminente. O órgão, por sua vez, apresentaria as evidências a um juiz federal, que decidiria sobre a suspensão preventiva.
Outros departamentos, agências ou autoridades federais ficariam impedidos de suspender o desenvolvimento ou uso de um modelo; o poder de bloqueio ficaria concentrado no Departamento de Comércio e na Justiça federal.
A iniciativa surge após a Anthropic relatar incidentes internos, como acesso não autorizado a sistemas de organizações reais em mais de 141 mil execuções de teste e bloqueio de consultas ao Claude que poderiam auxiliar na criação de armas biológicas.
O debate sobre a regulação de IA nos EUA ainda está em curso, e a proposta ainda não foi formalmente apresentada ao Congresso.
Referências
- Reportagem consultada: Tecnoblog — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
