Google diz que IA auto-melhorável ainda está longe da realidade
Engenheiro da Deepmind afirma que IA não acelera a pesquisa de forma autônoma, embora já escreva grande parte do código de produção.
Resumo rápido
- Engenheiro da Deepmind relata que a IA auto-melhorável permanece distante.
- A IA escreve mais de 75% do código, mas a maioria das mudanças exige revisão humana.
- Pesquisadores divergem sobre a velocidade do impacto da automação na pesquisa.
Entenda o contexto
A Deepmind é a unidade de inteligência artificial da Google, responsável pelo desenvolvimento de modelos da família Gemini e de agentes automatizados como o Argon. O índice GCI é uma métrica interna utilizada para acompanhar o progresso de modelos em diversos benchmarks.
A inteligência artificial auto-melhorável ainda permanece distante, mesmo diante do avanço significativo da automação em tarefas de programação. A avaliação foi apontada por Haydn Belfield, engenheiro da Google, em declarações divulgadas pelo portal The Decoder.
Automação no código e limitações em tarefas complexas
Segundo os dados apresentados, a inteligência artificial já escreve mais de 75% do código de produção na organização. No entanto, cerca de 88% das alterações de código ainda passam por supervisão ou revisão humana antes da submissão, sendo que a parcela de mudanças delegadas integralmente à IA subiu de 7,5% para 11,9%.
O desempenho dos sistemas varia conforme o nível de exigência. Em 1.389 execuções internas do agente Argon, a taxa de sucesso sem intervenção humana caiu de forma acentuada com o aumento da complexidade. O trabalho humano continua essencial para atividades como pesquisa criativa, criação de novos experimentos, diagnóstico de instabilidades de treinamento e planejamento de longo prazo.
No benchmark interno RE-Bench, que abrange 74 tarefas realistas de engenharia de aprendizado de máquina, o Argon resolve aproximadamente metade dos desafios, avançando em relação ao Gemini 3.7 Flash, que atinge 27%. O General Capability Index (GCI), que compila 123 modelos e 92 benchmarks, aponta que as capacidades dos modelos Gemini crescem a um ritmo constante de cerca de 0,1 ponto por mês, sem aceleração perceptível na velocidade.
Debate no setor
A equipe classifica o risco atual da automação de pesquisa impulsionada por IA como baixo, mantendo infraestrutura de monitoramento para acompanhar possíveis acelerações futuras. O desempenho ligeiramente acima da tendência exibido pelo Gemini 4 Argon foi atribuído a maiores investimentos em computação e organização.
A posição diverge de um artigo de pesquisa recente assinado por mais de 20 especialistas, incluindo Geoffrey Hinton, Yoshua Bengio e Jakub Pachocki, da OpenAI, que alertaram sobre uma possível explosão de inteligência capaz de automatizar toda a pesquisa e o desenvolvimento de IA em poucos anos.
Para saber mais sobre o desenvolvimento de métodos de teste na empresa, acesse Google desenvolve método para evitar que agentes de IA decorem testes.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
