Agente com Claude Sonnet 5 realiza cirurgia em camundongo
Um agente com Claude Sonnet 5 escolheu a terapia e conduziu uma cirurgia cerebral em um camundongo, recuando ao detectar falha de calibração.
Resumo rápido
- Um agente executando o modelo Claude Sonnet 5 escolheu a terapia gênica, a região cerebral e as coordenadas antes de operar um camundongo.
- No meio da operação, o agente recusou-se a continuar após identificar um erro de calibração que colocava o alvo fora do alcance físico do aparelho.
- Gabriel Ocana-Santero, da Exin Therapeutics, afirma ser o primeiro caso em que uma IA escolhe o tratamento e o aplica em um mamífero vivo.
Entenda o contexto
O experimento ilustra a integração de agentes de linguagem ao controle direto de instrumentos de laboratório. O caso também evidencia o problema de alinhamento em IA, que busca garantir que modelos sigam a intenção humana de maneira confiável mesmo quando enfrentam falhas técnicas imprevistas.
O que o agente de IA realizou no experimento?
Segundo Gabriel Ocana-Santero, cofundador e CEO da startup Exin Therapeutics e estudante de doutorado na Universidade de Oxford, um agente de IA executando o modelo Claude Sonnet 5 escolheu o medicamento, a região do cérebro e as coordenadas estereotáxicas para uma cirurgia em um modelo de epilepsia em camundongo. A única instrução recebida pelo sistema era reduzir as crises epilépticas do animal.
A equipe forneceu ao modelo uma lista de 19 terapias gênicas possíveis e acesso a um dispositivo cirúrgico motorizado personalizado com câmeras. O agente selecionou uma terapia que aumenta uma via de sinalização inibitória específica e rejeitou uma segunda opção apontando falta de confiabilidade na literatura científica. A IA derivou as coordenadas de injeção a partir de três artigos científicos e definiu de forma autônoma o volume, a velocidade e os tempos de espera da injeção.
Como foi feita a operação e qual problema ocorreu?
Durante o procedimento, o agente monitorou o campo cirúrgico por câmera e registrou 32 observações, acompanhando a injeção e o sangramento. Um veterinário licenciado aprovou cada etapa irreversível e manteve um botão de parada de emergência física, além de regras fixas do sistema que proibiam o agente de ultrapassar certos limites, como o volume máximo de injeção.
Apesar das proteções, o agente parou no meio do procedimento. Após uma queda de conexão, a IA detectou que a posição calculada para o alvo estava fora do alcance físico de movimento do dispositivo e recusou-se a continuar, mesmo após três tentativas de recalibração. Mais tarde, constatou-se que ajustes manuais feitos em uma pausa anterior desalinharam o sistema de controle, confirmando que a avaliação do agente estava correta. Ocana-Santero precisou corrigir o código manualmente para concluir a intervenção. Segundo reportagem do veículo The Decoder, o camundongo se recuperou bem.
Por que o caso atrai atenção para o alinhamento de IA?
De acordo com Ocana-Santero, este é o primeiro caso relatado em que um agente de IA escolheu o tratamento e a região do cérebro e executou a aplicação em um mamífero vivo. Ele observou que o Claude Sonnet 5 foi o único modelo disposto a realizar a operação ao vivo do início ao fim; os modelos Claude Opus 5 e Opus 5.5 recusaram a tarefa. O Opus 5 justificou que não poderia garantir a conclusão e que parar com uma agulha no cérebro do animal anestesiado seria pior do que não iniciar.
O episódio expõe desafios no alinhamento de IA em procedimentos críticos com restrições de tempo. Um relatório técnico deve ser publicado posteriormente, e Ocana-Santero ressaltou que os resultados do experimento ainda não foram revisados por pares.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
