Anthropic apresenta o FlashProve para verificar a origem de respostas
A Anthropic revelou o FlashProve, projeto de código aberto para comprovar criptograficamente qual modelo gerou uma resposta. Sem planos de implantação.
Resumo rápido
- Pesquisadores da Anthropic detalharam o FlashProve, um sistema de código aberto criado para gerar provas criptográficas de qual modelo produziu determinado texto.
- O método exige a publicação da assinatura digital de cada modelo sem expor seus pesos internos, garantindo a privacidade de tecnologias proprietárias.
- O projeto representa um avanço intermediário de pesquisa e a empresa informou que não há planos para implementá-lo na Anthropic ou em outros laboratórios.
Entenda o contexto
A inferência comprovável é um campo de estudo que aplica criptografia para validar o processamento e a autoria das respostas geradas por sistemas computacionais. O FlashProve propõe uma assinatura matemática para garantir que uma resposta foi de fato emitida por um modelo específico, sem que a empresa proprietária precise revelar seus parâmetros privados (conhecidos como pesos).
O que foi anunciado pela Anthropic?
Na terça-feira, 3 de novembro de 2026, pesquisadores da Anthropic publicaram um texto descrevendo o desenvolvimento do FlashProve, um sistema de código aberto projetado para comprovar a identidade do modelo de inteligência artificial que gerou uma resposta. Segundo a publicação, a tecnologia busca fornecer uma garantia matemática, chamada por eles de "inferência comprovável", permitindo que os usuários confirmem se o resultado recebido veio de fato do sistema selecionado. As especificações técnicas e o código de funcionamento de partes do mecanismo foram disponibilizados publicamente sob uma licença de código aberto no GitHub, de acordo com reportagem do TechCrunch.
Como funciona o sistema de verificação?
De forma comparável às assinaturas criptográficas de e-mail que confirmam a identidade do remetente, o FlashProve promete impedir que um modelo seja mascarado como outro, mesmo se o impostor for o próprio laboratório que criou e opera o sistema. A equipe de pesquisa explicou no anúncio que a tecnologia pode evitar que empresas de IA substituam secretamente um sistema por uma opção mais barata para reduzir custos operacionais, ou por um modelo mais caro para inflar resultados de desempenho em testes.
O mecanismo também serviria para verificar alegações de terceiros — como a afirmação de um desenvolvedor de que sua biblioteca de software foi verificada contra vulnerabilidades por um modelo avançado de segurança digital, ou a declaração de uma empresa de que seu plano de negócios obteve aprovação de um modelo apropriado.
Para operar, o FlashProve exige que os laboratórios publiquem uma impressão digital (ou "fingerprint") de cada modelo lançado. Essa assinatura é posteriormente comparada às respostas emitidas e validada criptograficamente no próprio dispositivo do usuário, já que o sistema foi projetado para ser leve. Um ponto destacado pelos pesquisadores é que essa impressão digital não expõe os pesos do modelo — os números internos que determinam o comportamento da rede e que mantenedoras de modelos fechados, como Anthropic e OpenAI, preservam em segredo. Isso viabiliza o uso da verificação também em modelos comerciais sem abrir mão de seu ativo mais valioso.
Quais são os limites atuais e próximos passos?
Apesar da publicação do código e da documentação técnica detalhada, o projeto é uma pesquisa em andamento. Os autores afirmam no texto que a divulgação busca compartilhar progressos intermediários e incentivar que outros examinem, utilizem e aprimorem o trabalho, e não apresentar uma agenda de pesquisa concluída. Conforme os dados revelados, não existem planos para implantar a ferramenta no ecossistema da Anthropic nem em outros laboratórios de inteligência artificial.
Referências
- Reportagem consultada: TechCrunch — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
