Anthropic busca normas para negociações feitas por agentes de IA
Segundo o Financial Times, a Anthropic consulta escritórios de advocacia para definir normas éticas antes que agentes de IA realizem negociações comerciais.
Resumo rápido
- Anthropic consulta advogados para definir normas de negociação para agentes de IA, segundo o Financial Times.
- Experimentos da empresa indicam que modelos mais avançados fecham acordos melhores, o que pode aumentar a desigualdade.
- A companhia contratou advogados temporários para testar o modelo Claude em julgamentos complexos nas ciências humanas.
Entenda o contexto
A Anthropic desenvolve modelos de linguagem como a família Claude. Como sistemas de IA avançados começam a assumir tarefas autônomas, a definição de diretrizes de negociação busca evitar distorções econômicas antes da adoção dessas ferramentas no mercado.
A Anthropic está consultando escritórios de advocacia para estabelecer normas de negociação para agentes de inteligência artificial, conforme informado pelo jornal Financial Times. O objetivo da iniciativa é orientar a atuação de sistemas autônomos que possam barganhar preços, resolver reclamações ou aprimorar propostas de contratos em nome dos usuários.
Disparidade de desempenho e contratação de especialistas
A preocupação com essas regras surgiu após experimentos da própria empresa mostrarem que modelos de IA mais avançados obtêm acordos mais vantajosos nas negociações. De acordo com a reportagem veiculada pelo The Decoder, essa diferença de capacidade entre os modelos pode ampliar a desigualdade na sociedade.
Como parte desse esforço, a empresa está contratando profissionais de direito para o programa de Conceptual Reasoning Fellows. Os selecionados receberão salários entre US$ 100.000 e US$ 167.000 para trabalhar durante quatro meses no teste do modelo Claude em questões que exigem capacidade de julgamento em áreas como direito, filosofia, ciência cognitiva, economia e ciência política.
O processo decorre da escassez de dados verificáveis em disciplinas humanas. Enquanto áreas como matemática e programação contam com abundância de dados objetivos, no setor jurídico é "notoriamente difícil definir qualidade", afirmou Justin Curl, membro da equipe técnica da Anthropic focado na pesquisa sobre direito, instituições e IA. Por essa razão, a empresa busca especialistas capazes de formular avaliações e casos de teste específicos para aprimorar o modelo.
Referências
- Reportagem consultada: The Decoder
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
