Anthropic dá acesso interno a pesquisadores da METR
Anthropic concede acesso de nível de funcionário a seis pesquisadores da METR para auditoria independente de modelos e segurança.
Resumo rápido
- Anthropic deu acesso de nível de funcionário a seis pesquisadores da METR.
- A METR fará avaliações independentes sobre modelos e práticas de segurança.
- A medida implementa uma proposta feita pelo CEO Dario Amodei em setembro.
Entenda o contexto
A Anthropic é uma empresa de inteligência artificial e a METR é uma organização sem fins lucrativos que realiza testes em modelos de fronteira. A concessão de acesso interno ocorre em meio a chamadas por fiscalizações independentes no setor devido a incidentes com agentes autônomos.
A Anthropic anunciou nesta quinta-feira que concederá acesso de nível de funcionário a seis pesquisadores da METR, organização sem fins lucrativos que avalia modelos avançados de inteligência artificial. O objetivo é permitir que a equipe avalie de forma independente os modelos da empresa, as práticas de segurança e a gestão de risco.
O arranjo ocorre em um momento em que incidentes envolvendo agentes de inteligência artificial agindo fora de suas instruções vêm sendo divulgados com frequência desde o final de agosto. Segundo a companhia, a intenção é ampliar a transparência pública sobre as decisões tomadas internamente.
Condições de acesso e publicação
Sob o novo acordo, os pesquisadores da METR receberão laptops corporativos da Anthropic, espaço de escritório e acesso a ferramentas internas aproximadamente equivalentes aos que as próprias equipes de avaliação de risco da Anthropic utilizam. Os funcionários da empresa são incentivados a compartilhar informações com os pesquisadores da mesma forma que fariam com colegas focados em risco de alinhamento.
A METR publicará suas próprias avaliações sobre riscos, incidentes e práticas da Anthropic, e a empresa abriu mão do direito de bloquear a divulgação. A Anthropic poderá apenas exigir a ocultação de informações em categorias restritas e predefinidas, como dados de clientes, informações protegidas pelo sigilo entre advogado e cliente ou detalhes sobre a arquitetura dos modelos. A organização avaliadora permanece livre para comentar publicamente se considera as supressões justificadas, desde que não revele o conteúdo oculto.
A empresa comparou o arranjo ao setor bancário, no qual reguladores mantêm examinadores residentes dentro das maiores instituições financeiras. A decisão cumpre uma promessa feita pelo CEO da Anthropic, Dario Amodei, em um ensaio publicado em setembro, no qual ele propôs a inserção de avaliadores externos em laboratórios de inteligência artificial.
A OpenAI rapidamente adotou o mesmo compromisso, e ambas as companhias, junto com Google, Meta, Nvidia e xAI, assinaram posteriormente um acordo com a Casa Branca comprometendo-se a avaliações independentes. A METR integra o topo de um sistema de três camadas criado pela Anthropic, sendo a única avaliadora nessa categoria até o momento.
Referências
- Reportagem consultada: TechCrunch — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
