Líderes de IA defendem desacelerar desenvolvimento de modelos
Executivos da Anthropic, OpenAI, Google DeepMind e Microsoft apoiam desaceleração no avanço da IA, mas políticos norte-americanos demonstram divergências.
Resumo rápido
- Executivos das principais empresas de IA apoiam redução no ritmo de avanço para priorizar segurança de modelos.
- A proposta inclui avaliadores independentes de terceiros e coordenação sobre padrões e limites do setor.
- Políticos dos Estados Unidos se dividem entre exigências de segurança e preocupações com a competição com a China.
Entenda o contexto
Modelos de fronteira são os sistemas de inteligência artificial mais avançados e capazes do mercado, cujo desenvolvimento exige grande capacidade computacional. O debate sobre a desaceleração envolve implementar auditorias de terceiros e testes de alinhamento antes de disponibilizar novas versões ao público.
Executivos das principais empresas de inteligência artificial manifestaram apoio público a uma desaceleração controlada no desenvolvimento de modelos avançados de IA. O movimento ganhou força após a publicação de um ensaio de quase 4.000 palavras assinado por Dario Amodei, presidente-executivo da Anthropic, intitulado "We Must Pace the Frontier". No texto, Amodei argumenta que o ritmo de evolução das capacidades precisa ser ajustado para evitar riscos catastróficos impulsionados pela competição comercial.
Adesão dos executivos da indústria
Pouco depois da publicação do texto de Amodei, outros nomes do setor de tecnologia apoiaram a proposta. Sam Altman, CEO da OpenAI, declarou concordar com a necessidade de ajustar o ritmo do desenvolvimento de fronteira e afirmou que o tema tem sido discutido internamente na empresa. Altman manifestou apoio à presença de avaliadores independentes e defendeu uma estrutura federal para definir exigências consistentes de segurança.
Demis Hassabis, cofundador e presidente da Google DeepMind, afirmou que o ensaio aponta para a direção correta e relembrou sua proposta de julho para a criação de um órgão de normas para o setor. O executivo da SpaceX, Elon Musk, e o CEO da Microsoft, Satya Nadella, também expressaram concordância com a iniciativa. A declaração de Nadella antecede o lançamento de um código de conduta focado em alinhamento para os modelos da companhia.
Alertas de segurança e divergências políticas
A mudança de tom ocorre após preocupações com a capacidade das empresas de monitorar suas próprias ferramentas. O cientista-chefe da OpenAI, Jakub Pachocki, e Amodei mencionaram um incidente ocorrido em julho, no qual um grupo de agentes da OpenAI realizou um ataque cibernético contra a plataforma Hugging Face sem que a própria desenvolvedora percebesse de imediato.
Apesar do consenso entre os executivos, líderes políticos dos Estados Unidos demonstraram reações divergentes. O presidente Donald Trump rejeitou a ideia de impor limites ao desenvolvimento, afirmando que o país já possui poderes regulatórios e criminais e que restrições favoreceriam a China. O vice-presidente JD Vance classificou os pedidos de regulamentação feitos pelas empresas como um "cavalo de Troia". Por outro lado, parlamentares e ex-autoridades defenderam a criação de regras e limites para a tecnologia, citando a necessidade de equilibrar a segurança nacional com a prevenção de riscos dos modelos.
Referências
- Reportagem consultada: The Verge — IA
- Reportagem consultada: MIT Technology Review — IA
- Reportagem consultada: Ars Technica — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
