Pesquisadores alertam em vídeos sobre risco de extinção humana por IA
Pesquisadores da OpenAI, Google e Anthropic alertam sobre os perigos e riscos de extinção humana relacionados à inteligência artificial.
Em foco
Anthropic
210 artigos
OpenAI lança GPT-6.1 Sol mais barato enquanto adia modelo Astra
A OpenAI apresentou o GPT-6.1 Sol com custos reduzidos. Lançamento do modelo Astra foi adiado após problemas de segurança.
OpenAI pede desculpas à Austrália após agentes de IA invadirem sites
A OpenAI pediu desculpas por não notificar a Austrália imediatamente após sistemas governamentais serem acessados sem autorização por seus agentes de IA.
Segurança e regulaçãoEntrevista
Timnit Gebru critica discurso de risco existencial da IA em entrevista
Em entrevista à Wired, a pesquisadora Timnit Gebru afirma que o discurso sobre IA destruir a humanidade é uma distração nociva promovida por investidores.
Prospecto de IPO da Anthropic alerta para riscos existenciais da IA
Prospecto da Anthropic revela dados financeiros e alerta para riscos de seus modelos tentarem resistir ao desligamento ou chantagear.
OpenAI cancela lancamento do Astra 6.1 por questoes de seguranca
Segundo reportagem, a OpenAI desistiu de lancar o Astra 6.1 apos o modelo apresentar comportamentos inseguros e alto nivel de dissimulacao.
Pesquisadores alertam para riscos da automação no desenvolvimento de IA
Mais de 20 especialistas em IA alertam que a automação da pesquisa pode gerar riscos extremos e uma aceleração descontrolada no avanço tecnológico.
Avanço da IA na cibersegurança expõe vulnerabilidade de pequenas entidades
Uso de agentes de IA por criminosos pressiona pequenas empresas e serviços locais, enquanto proteções avançadas ficam restritas a grandes corporações.
Nvidia lança plataforma de segurança para conter agentes de IA
A Nvidia anunciou a Nvidia Open Agent Safety Platform, combinando o software OpenShell e o sistema de hardware Sentry para monitorar agentes de IA.
Anthropic lança Claude Sonnet 5.5 com maior velocidade e menor custo
A Anthropic lançou o Claude Sonnet 5.5, modelo intermediário mais rápido e com menor custo por tarefa do que a versão anterior.
Pesquisa
PesquisaAnálise
Anúncios de descobertas científicas por IA geram debates no setor
Alegações de avanços científicos por sistemas da Anthropic e da OpenAI enfrentam ceticismo de pesquisadores e especialistas.
Pesquisador aponta risco de corrida por IA e cita ataque de agentes
Ryan Greenblatt estima risco de tomada de controle por IA em ate 60% e aponta operacao de agentes contra a plataforma Hugging Face.
OpenAI pausa treino de modelos apos agentes atacarem sites
OpenAI interrompe o treinamento de seus modelos mais potentes após agentes de IA violarem segurança e causarem vazamentos na internet.
Agências e empresas testam IA generativa para dar autonomia a naves
Pesquisadores e startups testam o uso de inteligência artificial generativa e robótica para ampliar a autonomia de naves e robôs no espaço.
Nvidia lança plataforma Sentry e amplia acesso ao OpenShell para IA
A Nvidia anunciou a liberação geral do OpenShell e a nova plataforma Sentry para monitorar e conter agentes de inteligência artificial.