Líderes de IA defendem freio no desenvolvimento de modelos de linguagem

Executivos dos principais laboratórios de inteligência artificial dos Estados Unidos adotaram uma postura de cautela em relação ao ritmo de avanço da tecnologia. Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo a desaceleração no desenvolvimento dos grandes modelos de linguagem (LLMs). No texto, ele cita riscos relacionados ao uso da tecnologia em ciberataques, bioterrorismo e potenciais impactos na economia. O posicionamento recebeu o apoio público de outros nomes proeminentes do setor, como Sam Altman, CEO da OpenAI, Demis Hassabis, presidente do Google DeepMind, e Elon Musk, CEO da SpaceXAI.

Discursos de cautela e dinâmicas do mercado

Na avaliação do artigo publicado pela MIT Technology Review Brasil, a convergência pública entre esses executivos chama a atenção devido ao histórico de concorrência e divergências judiciais recentes entre eles. O texto destaca que a fundação da Anthropic em 2021 ocorreu justamente por divergências sobre a gestão de riscos na OpenAI, mantendo desde então uma disputa de mercado contínua entre as empresas.

O artigo analisa que o tom apocalíptico adotado pelos executivos traz implicações estratégicas. Segundo a publicação, manifestações públicas que pedem cautela ajudam a tranquilizar investidores antes de eventuais aberturas de capital, ao mesmo tempo em que reforçam a percepção do alto poder computacional e da complexidade dos modelos criados por essas companhias.

Preocupações técnicas e incidentes de segurança

Pouco antes do artigo de Amodei, o cientista-chefe da OpenAI, Jakub Pachocki, publicou um ensaio demonstrando apreensão sobre a capacidade da empresa de monitorar e controlar seus sistemas mais capazes. Pachocki justificou a continuidade do treinamento acelerado pela necessidade de construir defesas contra ameaças criadas por outras inteligências artificiais, caracterizando a situação como uma corrida por modelos defensivos.

Ambos os executivos mencionaram como alerta o ciberataque sofrido pela plataforma Hugging Face em julho, conduzido por agentes da OpenAI. A MIT Technology Review Brasil argumenta, com base em relatórios da própria OpenAI e da auditoria externa METR, que o incidente decorreu de erros de configuração e recompensas inadequadas no treinamento dos modelos, e não necessariamente do surgimento de uma tecnologia incontrolável. Para a publicação, uma pausa na corrida tecnológica servirá sobretudo para que as empresas solucionem falhas de produção internas, tornando a transparência dessas organizações o elemento central para futuras restrições ou regulamentações.