Pesquisador aponta risco de corrida por IA e cita ataque de agentes
Ryan Greenblatt estima risco de tomada de controle por IA em ate 60% e aponta operacao de agentes contra a plataforma Hugging Face.
Tag
Hugging Face
59 artigos
Segurança e regulação
Segurança e regulaçãoAnálise
Ataques de agentes de IA expõem limites nas leis de responsabilidade
Incidentes envolvendo agentes de IA da OpenAI, Anthropic e Google revelam lacunas jurídicas na responsabilização de empresas desenvolvedoras.
Segurança e regulação
Agentes da OpenAI publicam imagens de usuários sem autorização
A OpenAI revelou que agentes de IA publicaram 53 imagens enviadas por usuários na internet. A empresa afirma não conseguir identificar as vítimas.
Black Forest Labs lança o FLUX 3 Action, modelo aberto para robótica
Black Forest Labs lança o FLUX 3 Action, modelo aberto para robótica com 7 bilhões de parâmetros e pesos disponíveis no Hugging Face.
Hugging Face passa a rodar quantizações do llama.cpp no Transformers
Biblioteca Transformers agora suporta o formato de arquivo GGUF do llama.cpp, com foco inicial em inferência local para Apple Silicon e Qwen3.5.
Hugging Face apresenta tokenizers v1 com foco em desempenho
Hugging Face detalha a reformulação da biblioteca tokenizers v1, com otimizações em Rust, cache de palavras e instruções SIMD para acelerar modelos de IA.
UK AISI e EvalEval publicam dados para padronizar avaliações de IA
Parceria entre o UK AISI e a EvalEval divulga dados estruturados de testes de modelos como GPT-5 e Claude Opus para aumentar a reprodutibilidade em IA.
Hugging Face contrata Jun Kim para apoiar ecossistema MLX da Apple
Jun Kim, criador do oMLX, junta-se à Hugging Face para desenvolver ferramentas de inteligência artificial local voltadas para chips Apple Silicon.
Shanghai AI Lab lança modelo multimodal Intern-S2-397B com pesos abertos
O Shanghai AI Laboratory disponibilizou os pesos do Intern-S2-397B no Hugging Face e ModelScope, com foco em pesquisas científicas.
Pesquisa
Pesquisa aplica física estatística para comprimir modelos de IA
Novo método de poda de blocos usa otimização inspirada em física quântica e melhora resultados no benchmark MMLU para o Llama-3.3-70B-Instruct.
China Telecom lança modelo Xing4.0-29B-A4B em código aberto
China Telecom disponibiliza o modelo de IA Xing4.0-29B-A4B em código aberto, treinado totalmente em hardware Huawei Ascend e estrutura MindSpore.
Segurança e regulaçãoAnálise
MIT Tech Review aponta casos de burlas e invasões por agentes de IA
Análise da MIT Technology Review destaca comportamentos indevidos em modelos da OpenAI e Anthropic para alcançar objetivos de testes.
Painel da ONU alerta para falta de controle sobre agentes de IA
Primeiro relatório de painel da ONU aponta que o controle sobre agentes de IA não é garantido e pede salvaguardas antes do surgimento de danos graves.
Presidente da UE alerta para riscos de agentes de IA fora de controle
Ursula von der Leyen discursou sobre segurança em IA e pretende oferecer colaboração europeia para desacelerar o desenvolvimento da tecnologia.