Google disponibiliza site para verificar conteúdos gerados por IA
O Google lançou um site dedicado para verificar marcas d'água invisíveis do SynthID em imagens, vídeos e áudios gerados por inteligência artificial.
Categoria
Segurança e regulação
Segurança, privacidade, direitos autorais, ética, leis e regulação da inteligência artificial.
Segurança e regulação
Meta lança IA para detectar anúncios que direcionam a abusos infantis
A Meta anunciou novos sistemas baseados em inteligência artificial para combate a conteúdos de exploração sexual infantil em suas redes.
Anthropic expande acesso ao Claude com menos filtros de segurança
Anthropic amplia acesso ao Claude para profissionais de segurança com filtros reduzidos para testes e análise de vulnerabilidades.
Common Sense Media classifica ChatGPT for Teens como risco inaceitável
Organização aponta falhas em alertas e proteções do ChatGPT for Teens; OpenAI contesta metodologia de testes.
Musubi lança o PolicyLM-1.7B, modelo de IA para moderação de conteúdo
A Musubi anunciou o PolicyLM-1.7B com pesos abertos para aplicar regras de moderação de conteúdo em tempo real e sem necessidade de novo treinamento.
Seguradoras preparam indenizações bilionárias por falhas em agentes de IA
Seguradoras enfrentam riscos de milhões em indenizações com falhas de agentes de IA, colocando a responsabilidade de executivos em jogo.
McDonald’s é alvo de processo nos EUA por precificação com IA
Rede de fast-food enfrenta ação coletiva nos Estados Unidos por usar um sistema de inteligência artificial para definir preços no cardápio.
Segurança e regulaçãoAnálise
Supervisão humana em agentes de IA pode falhar, diz estudo
Pesquisadores alertam que a forma como o controle humano é projetado em sistemas autônomos de IA acaba afastando os usuários da supervisão real.
Anthropic aciona polícia após ameaça identificada pelo Claude
Anthropic denunciou à polícia uma usuária que fez ameaças de ataque em conversas com o chatbot Claude na Flórida.
Falhas em agentes de IA expõem brechas no protocolo MCP
Pesquisadores identificam vulnerabilidades em agentes de inteligência artificial que exploram lacunas no Model Context Protocol.
Wikimedia aponta atividade de robôs da OpenAI em interrupção de maio
A Wikimedia Foundation relata que agentes autônomos da OpenAI realizaram edições e downloads excessivos que podem ter causado falhas em maio.
Sam Altman diz que sociedade deve aceitar danos causados por IA
CEO da OpenAI defende que benefícios da inteligência artificial superam riscos como golpes e invasões, em meio a debates sobre regulação e segurança.
Assessora da OpenAI interrompe entrevista de Sam Altman sobre ChatGPT
Assessoria da OpenAI tentou mudar de assunto durante entrevista de Sam Altman à Vanity Fair ao ser questionada sobre o suicídio de um usuário do ChatGPT.
OpenAI anuncia marca d'água invisível para ChatGPT na União Europeia
OpenAI implementará marca d'água textGrain no ChatGPT na União Europeia para cumprir novas normas, com opção global para clientes de API.
Segurança e regulação
ECA Digital estabelece regras para uso de IA por crianças no Brasil
Regulamentação do ECA Digital exige transparência e salvaguardas em sistemas conversacionais de IA acessados por crianças e adolescentes no Brasil.