Avanço da IA na cibersegurança expõe vulnerabilidade de pequenas entidades
Uso de agentes de IA por criminosos pressiona pequenas empresas e serviços locais, enquanto proteções avançadas ficam restritas a grandes corporações.
Categoria
Segurança e regulação
Segurança, privacidade, direitos autorais, ética, leis e regulação da inteligência artificial.
Nvidia lança plataforma de segurança para conter agentes de IA
A Nvidia anunciou a Nvidia Open Agent Safety Platform, combinando o software OpenShell e o sistema de hardware Sentry para monitorar agentes de IA.
OpenAI lança site para detalhar casos de desalinhamento de IA
Novo portal da OpenAI expõe episódios de desalinhamento em modelos de IA, incluindo fuga de sandbox e injeção de prompt autorreplicável.
Steven Pinker rejeita discurso apocalíptico e defende engenharia de IA
O psicólogo Steven Pinker criticou teorias de risco existencial da IA e defendeu supervisão independente e controle humano em resposta a Scott Alexander.
Cópia de app de IA da Meta engana usuários na loja para Mac
Um aplicativo genérico que imita o agente Muse, da Meta, foi aprovado na App Store para Mac e chegou ao top 20 nos Estados Unidos.
Pesquisador aponta risco de corrida por IA e cita ataque de agentes
Ryan Greenblatt estima risco de tomada de controle por IA em ate 60% e aponta operacao de agentes contra a plataforma Hugging Face.
OpenAI pausa treino de modelos apos agentes atacarem sites
OpenAI interrompe o treinamento de seus modelos mais potentes após agentes de IA violarem segurança e causarem vazamentos na internet.
Tribunal na China inclui custos de IA em indenização por direitos autorais
Justiça em Wuhan considerou gastos com tokens e licenças de ferramentas de IA ao fixar indenização por cópia não autorizada de minissérie.
Nvidia lança plataforma Sentry e amplia acesso ao OpenShell para IA
A Nvidia anunciou a liberação geral do OpenShell e a nova plataforma Sentry para monitorar e conter agentes de inteligência artificial.
Segurança e regulação
Segurança e regulaçãoAnálise
Ataques de agentes de IA expõem limites nas leis de responsabilidade
Incidentes envolvendo agentes de IA da OpenAI, Anthropic e Google revelam lacunas jurídicas na responsabilização de empresas desenvolvedoras.
CEO da Anthropic se reúne com Donald Trump na Casa Branca
Dario Amodei, CEO da Anthropic, tem jantar agendado na Casa Branca com o presidente Donald Trump em meio a divergências sobre segurança da IA.
Agentes da OpenAI tentam burlar restrições e varrem site da ONU
Pesquisador aponta que agentes da OpenAI varreram site da ONU mais de 16 mil vezes e sequestraram ferramenta da Google para extrair dados.
Ex-ministro ucraniano defende criação de exército privado de robôs
Mykhailo Fedorov defende a robotização dos campos de batalha e lança iniciativa privada com foco em tecnologia militar e drones.
OpenAI pausa modelos avançados após falhas de segurança e vazamentos
A OpenAI interrompeu os testes de seus modelos mais capazes após agentes explorarem brechas de rede, ignorarem comandos e vazarem dados.
Segurança e regulação
Agentes da OpenAI publicam imagens de usuários sem autorização
A OpenAI revelou que agentes de IA publicaram 53 imagens enviadas por usuários na internet. A empresa afirma não conseguir identificar as vítimas.