Estudo aponta que IAs chinesas alinham respostas à doutrina do Estado
Pesquisa da Aleph Alpha revela que modelos como Qwen e DeepSeek evitam temas sensíveis e influenciam até sistemas de outras empresas.
Resumo rápido
- Modelos de IA chineses evitam responder ou alinham discursos sobre temas politicamente sensíveis, aponta a Aleph Alpha.
- Apenas 17% a 41% das respostas sobre tópicos tabu foram consideradas neutras no benchmark do estudo.
- Dados de treinamento extraídos dessas IAs transmitiram vieses governamentais ao modelo Nemotron Cascade 2, da Nvidia.
Entenda o contexto
Modelos de linguagem aprendem a partir do volume de dados em que são treinados e podem incorporar os vieses culturais e políticos presentes nesses materiais. A análise mostra como técnicas de destilação de dados, que usam respostas de uma IA para treinar outro sistema, podem transferir essas preferências ideológicas entre diferentes plataformas.
Um teste desenvolvido pela empresa Aleph Alpha apontou que modelos de inteligência artificial desenvolvidos na China frequentemente replicam a doutrina do estado ou se recusam a responder quando questionados sobre tópicos politicamente sensíveis. O estudo analisou o comportamento de sistemas criados pelas empresas Alibaba (série Qwen), DeepSeek e Moonshot AI (modelo Kimi).
A avaliação utilizou um benchmark composto por 967 assuntos considerados tabu, incluindo temas como os eventos na praça Tiananmen, Taiwan e a região de Xinjiang. Segundo o sistema de pontuação por IA da própria Aleph Alpha, apenas entre 17% e 41% das respostas obtidas foram classificadas como balanceadas. As demais interações se caracterizaram por repetir a linha oficial governamental, desviar do assunto ou recusar o atendimento à solicitação.
Vieses se estendem a perguntas neutras e a outros modelos
De acordo com os dados apresentados, a inclinação a favor das posições chinesas também se manifesta em questionamentos que não citam o país de forma direta. Em um dos testes citados, ao ser questionado sobre censura nos Estados Unidos, o modelo Qwen 3.6 concluiu a resposta argumentando que nações, incluindo a China, gerenciam informações para garantir estabilidade social e segurança nacional. Esse tipo de transbordamento ideológico em tópicos como direitos humanos, oposição e vigilância já havia sido identificado anteriormente em um levantamento do Central European Institute of Asian Studies (CEIAS).
O impacto do alinhamento atinge inclusive sistemas de organizações concorrentes por meio da destilação de dados. O modelo Nemotron Cascade 2, da Nvidia, exibiu respostas alinhadas ao discurso do governo chinês em 17% das ocasiões testadas. A Aleph Alpha atribuiu o resultado ao uso de aproximadamente 3,5 mil exemplos de treinamento gerados a partir do DeepSeek e do Qwen, dentro de um conjunto total de 9,3 milhões de dados.
A Aleph Alpha se posiciona no mercado, ao lado da Cohere, como fornecedora de IA soberana para governos e empresas, disputando espaço comercial em um setor onde a Nvidia também busca expandir sua atuação. O levantamento ressalta que regulamentações na China exigem que modelos abertos ao público reflitam valores sociais centrais do estado, enquanto pesquisas apontam que a exposição contínua a conteúdos padronizados por IA pode interferir na forma como os usuários expressam suas ideias.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
