Anthropic permite acesso interno a avaliadores externos de IA
Anthropic deu a METR acesso tipo funcionário a hardware e sistemas internos para avaliar riscos de seus modelos, ampliando a participação de terceiros na segurança da IA.
Resumo rápido
- Anthropic concedeu acesso “tipo funcionário” a avaliadores externos.
- A METR tem equipe dentro das instalações da Anthropic com acesso ao hardware.
- A medida integra o plano de laboratórios de IA para mitigar riscos econômicos e de segurança.
Entenda o contexto
A Anthropic desenvolve o modelo de linguagem Claude. O acesso “tipo funcionário” permite que avaliadores externos examinem o funcionamento interno e os riscos associados, reforçando a supervisão independente de sistemas de IA.
Em 18 de outubro de 2026, a Anthropic anunciou que concedeu acesso “tipo funcionário” a avaliadores externos para analisar os riscos de seus modelos de IA. A organização sem fins lucrativos METR, que já trabalhou com laboratórios como OpenAI, Google e Meta, agora conta com uma equipe inserida nas instalações da Anthropic, com acesso ao hardware e aos sistemas internos da empresa.
Essa ampliação do papel de terceiros faz parte das principais ações propostas pelos principais laboratórios de IA diante de crescentes preocupações sobre os potenciais perigos que sistemas mais avançados podem representar para a economia, a cibersegurança e a humanidade.
Os detalhes sobre a disponibilidade desse acesso, eventuais custos ou limites operacionais não foram divulgados.
Referências
- Reportagem consultada: Ars Technica — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
