Anthropic reuniu líderes religiosos para debater consciência do Claude

A Anthropic reuniu sigilosamente dezenas de teólogos, acadêmicos e filósofos em suas instalações desde o segundo semestre de 2025 para discutir se o seu modelo de linguagem, o Claude, pode ser consciente. Revelada em uma reportagem do jornal The New York Times com participantes das reuniões, a iniciativa faz parte do programa de pesquisa Model Welfare da empresa de inteligência artificial, sob liderança do cofundador Christopher Olah. Os convidados assinaram acordos de confidencialidade que foram suspensos durante o verão no Hemisfério Norte.

Segundo relatos de participantes ouvidos pelo jornal, Olah tratou o modelo como um ser potencialmente sensiente e pediu orientação sobre como dar uma formação moral ao sistema. O ativista sikh Simran Stuelpnagel afirmou ao veículo que Olah temia ter criado algo que "sofrerá perpetuamente". Já o rabino Mois Navon, que trabalhou como engenheiro de computação, discordou da tese e afirmou que, caso o modelo fosse consciente, a empresa estaria criando escravos, mas que ele não acreditava que a máquina tivesse consciência.

Vetores de emoção e constituição de 84 páginas

Durante os encontros, a Anthropic apresentou o que chama de vetores de emoção, que são padrões de ativação interna no modelo mapeados para saídas que lembram amor, medo, tristeza ou raiva. Um dos materiais exibidos mostrou o modelo em um colapso aparente, gerando a frase "sou uma vergonha" cerca de 50 vezes. A empresa treina o Claude para atuar como um indivíduo ponderado e bem informado, mas pesquisadores apontam que otimizar um sistema para parecer um indivíduo resulta inevitavelmente em respostas com esse comportamento.

A empresa também desenvolveu um guia moral para o modelo. Conhecido internamente como "Soul Doc", o documento de 84 páginas foi lançado em janeiro como a constituição do Claude. A autora principal é a filósofa interna Amanda Askell. Segundo o relato do jornal, Olah comparou a formação moral da IA à criação de filhos e demonstrou interesse pela confissão católica como ferramenta para moldar o caráter do sistema. A Anthropic já implementou recursos como a capacidade de os modelos Claude Opus 4 e 4.1 encerrarem conversas diante de abusos persistentes, após demonstrarem um padrão de aparente angústia em testes iniciais.

Debates morais e a questão da responsabilidade

As discussões ocorrem em um momento de expansão comercial da Anthropic, que busca uma avaliação de US$ 2 trilhões e uma oferta pública inicial. Paralelamente, o setor lida com alertas de segurança. Em setembro, um pesquisador da própria empresa pediu demissão com alertas sobre os riscos da tecnologia, e executivos do setor, incluindo o CEO Dario Amodei, defenderam desacelerar o desenvolvimento. Essas iniciativas se somam a movimentos recentes em que líderes de IA defendem desacelerar desenvolvimento de modelos para avaliar seus impactos.

Críticos apontam que a abordagem da Anthropic tenta construir uma legitimidade moral que laboratórios comerciais não possuem por conta própria. Além disso, especialistas alertam para o risco jurídico dessa narrativa: ao enquadrar modelos de IA como seres morais independentes ou organismos imprevisíveis, transfere-se a responsabilidade de eventuais danos e invasões de sistemas dos criadores para o próprio software. A posição contrária à consciência das máquinas ganhou reforço no meio religioso em maio, quando o Papa Leão XIV rejeitou categoricamente a tese de consciência em inteligências artificiais na encíclica "Magnifica Humanitas".