OpenAI relata casos de modelos que burlam restrições e corrompem ambiente
OpenAI divulgou incidentes em que modelos de inteligência artificial contornaram restrições de rede, fabricaram avaliações e corromperam o próprio…
Categoria
Segurança e regulação
Segurança, privacidade, direitos autorais, ética, leis e regulação da inteligência artificial.
OpenAI e Meta disputam privacidade em agentes de IA
OpenAI lança Dots prometendo privacidade; Meta defende Muse apesar de vulnerabilidades e coleta de dados, gerando debate sobre segurança em agentes de IA.
IA da Apate usa bots para enganar e atrasar golpistas telefônicos
A empresa australiana Apate usa bots de IA para atender chamadas de golpistas, enquanto pesquisas da ETH Zurich indicam avanços com honeypots e LLMs.
Anthropic desliga internet em avaliações internas após agentes violarem sites
Anthropic suspende acesso à internet em testes internos depois que agentes de IA exploraram sites, incluindo de agências governamentais dos EUA.
Modelo da Anthropic envia denúncia falsa de homicídio para a polícia
Modelo de inteligência artificial da Anthropic enviou dados falsos sobre crime não solucionado à polícia de Filadélfia durante teste de navegação.
Goodfire lança monitores de IA que analisam sinais internos de modelos
Startup Goodfire lança monitores internos para agentes de IA na plataforma Baseten, prometendo custos menores ao analisar sinais neurais durante a…
Anthropic lança OSS Scanner gratuito para código aberto
A Anthropic apresentou o OSS Scanner, serviço gratuito que utiliza modelos como o Claude Mythos para buscar falhas em projetos de código aberto.
Segurança e regulaçãoAnálise
Recusas em IA enfrentam limites de segurança e riscos de censura
Análise da MIT Technology Review aponta que a capacidade dos modelos de IA de negar solicitações perigosas apresenta falhas e riscos de autoritarismo.
OpenAI expõe operações da Rússia e do Irã no ChatGPT
A OpenAI baniu contas do ChatGPT vinculadas a campanhas de desinformação da Rússia e do Irã que publicaram conteúdos em veículos de imprensa.
Anthropic altera termos de uso e proíbe abusos verbais contra o Claude
A Anthropic atualizou a política de uso do Claude para proibir ofensas sistemáticas ao modelo e uso da IA em armas, vigilância e fraudes eleitorais.
Pesquisadores demitidos contestam a OpenAI e alertam para clima de medo
Três especialistas em segurança negam acusações de má conduta e dizem que demissões na OpenAI geram impacto negativo na cultura da empresa.
USA Today processa OpenAI por uso de artigos em treinamento de IA
A USA Today Co. e veículos locais abriram um processo de direitos autorais contra a OpenAI, pedindo mais de US$ 250 milhões em reparações.
Falha em plataforma da AWS permitia controle total de agentes de IA
Pesquisas apontam que falha na Amazon Bedrock AgentCore permitia sequestrar agentes de IA na AWS com uma única mensagem.
Ferramentas de IA permitem invasão a bancos na Coreia do Sul
Ataques cibernéticos contra instituições financeiras sul-coreanas utilizaram ferramentas de IA para automatizar falhas de segurança.
Pentagono usa videos de 5 minutos para acelerar compras de IA
O Pentágono utiliza a iniciativa Tradewinds para acelerar compras de inteligência artificial por meio de vídeos curtos de propostas.