IA em linguagem clara
Glossário de inteligência artificial
Definições para acompanhar a tecnologia sem perder o contexto. 49 termos, escritos pela redação e com as fontes originais indicadas.
7 termos encontrados.
Segurança
Alucinação
Resposta gerada que parece plausível, mas não é sustentada pelos fatos ou pelas fontes.
Modelos podem inventar referências, datas e explicações. Conferir fontes primárias e indicar incerteza continuam sendo medidas essenciais.
Segurança
Deepfake
Áudio, imagem ou vídeo sintético que imita uma pessoa real, fazendo-a parecer dizer ou fazer algo que não aconteceu.
O termo abrange desde trocas de rosto até clonagem de voz. O uso mais frequente hoje é em golpes financeiros, fraudes de identidade e abuso sexual baseado em imagem. Verificar a origem do arquivo, procurar o registro original e buscar…
Segurança
Exercício de ataque
Avaliação em que uma equipe tenta deliberadamente provocar falhas, respostas perigosas ou usos indevidos de um sistema de IA.
Do inglês "red teaming". Pode ser feito por pessoas, por ferramentas automatizadas ou pelos dois. Serve para descobrir problemas antes do lançamento e alimenta as correções, mas cobre apenas o que foi testado: não produz garantia de…
Segurança
Jailbreak
Pedido construído para fazer o modelo contornar as próprias restrições de conteúdo ou de comportamento.
Diferente da injeção de prompt, em que a instrução maliciosa chega por um conteúdo que o sistema processa, o jailbreak parte de quem conversa com o modelo. As duas técnicas se combinam com frequência. Nenhum filtro conhecido resiste a…
Segurança
Procedência de conteúdo C2PA
Registro verificável de como um arquivo de mídia foi criado e editado, anexado ao próprio arquivo.
A especificação mais difundida é a da C2PA (Coalition for Content Provenance and Authenticity), que assina criptograficamente o histórico de origem e edições. Serve para afirmar procedência, não para detectar falsificação: metadados podem…
Segurança
Prompt injection
Tentativa de fazer um sistema seguir instruções maliciosas presentes em conteúdo que ele processa.
Documentos, páginas e mensagens podem tentar substituir as instruções do sistema. Separar dados de instruções e limitar permissões reduz o risco.
Segurança
Salvaguardas
Controles em volta do modelo que filtram entradas e saídas, limitam permissões e barram ações fora do previsto.
Do inglês "guardrails". São implementados fora dos pesos do modelo: classificadores de conteúdo, validação de formato, listas de permissões para ferramentas, limites de gasto e revisão humana em etapas críticas. Como o comportamento do…