Pesquisadores alertam em vídeos sobre risco de extinção humana por IA

A organização sem fins lucrativos Palisade Research lançou uma série de entrevistas em vídeo reunindo uma dúzia de pesquisadores da área de inteligência artificial. Os depoimentos, publicados no site frominside.ai, contam com a participação de funcionários e ex-colaboradores da OpenAI, do Google DeepMind e da Anthropic, que abordam os riscos do avanço tecnológico e a possibilidade de extinção humana.

Entre os entrevistados, Geoffrey Irving, ex-funcionário da OpenAI e do Google DeepMind, afirmou que a probabilidade de a inteligência artificial causar a extinção da humanidade é equivalente ao resultado de um arremesso de moeda. Na mesma linha, Neel Nanda, cientista de pesquisa do Google DeepMind, declarou que há uma chance de pelo menos 10% de o sistema provocar a extinção humana, classificando esse percentual como absurdamente alto.

Ausência de métodos de controle e motivações dos profissionais

As gravações também trazem alertas sobre o controle de modelos avançados. O ex-pesquisador da OpenAI Daniel Kokotajlo declarou que a superinteligência teria um poder comparável ao divino, acrescentando que não há conhecimento sobre como controlar esses sistemas e que ninguém conseguiria contê-los. Segundo Kokotajlo, a situação é exatamente tão perigosa quanto parece e não se deve permitir que ocorra.

Além dos alertas diretos, o acervo compila trechos em que os profissionais discutem se os alertas da área representam apenas publicidade e explicam os motivos de continuarem trabalhando no setor. A pesquisadora Mary Phuong, do Google, afirmou que o público deve ter suspeitas sobre suas declarações, pois ela é paga pelo laboratório. Já Nanda explicou que permanece em seu cargo por acreditar que sua atuação reduz diretamente os riscos existenciais, acrescentando que as empresas não interromperão o desenvolvimento dessas tecnologias apenas por sua demissão.