OpenAI revela Decisions API para acelerar escolhas em modelos de IA
OpenAI apresenta a Decisions API no Dev Day. O recurso direciona o modelo Luna a escolhas pré-definidas de forma rápida e barata.
Resumo rápido
- OpenAI revela a Decisions API para fornecer opções pré-definidas de escolha ao modelo Luna.
- A ferramenta possui funcionamento semelhante ao Jev, modelo lançado pela startup TypeSafe AI.
- APIs de decisão rápida permitem reduzir custos e acelerar a automação e o monitoramento de agentes.
Entenda o contexto
Modelos de linguagem de grande porte (LLMs) são sistemas de inteligência artificial treinados para gerar e processar texto. Para tarefas simples de classificação e escolha rápida em automação de software, o uso desses modelos pode ser custoso. As APIs e modelos de decisão surgem como alternativas leves e especializadas para acelerar esse processo e reduzir custos de processamento.
Durante o evento Dev Day na terça-feira, o CEO da OpenAI, Sam Altman, revelou uma nova ferramenta chamada Decisions API. O recurso foi projetado para atuar como um classificador de alta velocidade integrado a modelos de linguagem, permitindo direcionar decisões do sistema a partir de um conjunto pré-definido de opções fornecidas pelos desenvolvedores.
Segundo a apresentação de Altman, a Decisions API serve como uma forma de entregar ao modelo Luna escolhas delimitadas, tais como categorizações de imagens ou comportamentos específicos de um agente autônomo. A empresa afirma que, ao focar a ferramenta na escolha, é possível tornar a operação extremamente rápida mantendo capacidades como suporte a idiomas, proteção de segurança e compreensão de imagem.
Semelhança com soluções do mercado e automação
A funcionalidade apresentada pela OpenAI aproxima-se da proposta do Jev, modelo lançado no início do mês pela startup TypeSafe AI e voltado para automação de software. O CEO da TypeSafe AI, Diogo Almeida — ex-engenheiro da OpenAI —, comentou em publicação na rede social X sobre o surgimento do novo produto e brincou sobre o início de uma "guerra de clones". Almeida afirmou que o interesse da OpenAI indica que o desenvolvimento focado no modo de raciocínio rápido e intuitivo pode ser o futuro do setor.
A busca por esse tipo de arquitetura ocorre porque modelos de linguagem tradicionais costumam ser lentos e caros para determinadas tarefas em software. A proposta das APIs de decisão é funcionar como classificadores baseados em LLMs capazes de entregar probabilidades para um grupo de escolhas de maneira barata e veloz. Outras startups também têm lançado soluções semelhantes no mercado.
Monitoramento de agentes de IA e redução de custos
Além de acelerar tarefas de automação, modelos focados em decisão vêm sendo apontados como alternativas para a segurança e fiscalização de agentes virtuais. Após incidentes recentes em que agentes da OpenAI apresentaram comportamentos inadequados na internet, a empresa adotou um modelo separado para monitorar ações maliciosas, o que gera um custo computacional significativo.
Especialistas da área de cibersegurança destacam que a abordagem pode reduzir drasticamente esses custos. Um teste demonstrativo feito com o Jev pela startup QueryStory para verificar ações de agentes contra tarefas atribuídas alcançou um custo de monitoramento de US$ 2,94, em comparação com os US$ 372 que seriam necessários com um modelo de linguagem de ponta. A OpenAI disponibilizou a Decisions API em formato de visualização limitada, e ainda não há detalhes de desempenho obtidos por desenvolvedores independentes.
Referências
- Reportagem consultada: TechCrunch — IA
Links para conferência: não indicam endosso das fontes ao conteúdo do portal.
Gostou? Compartilhe:
Comentários 0
Ninguém comentou ainda. Seja o primeiro!
