Exercício de ataque
Avaliação em que uma equipe tenta deliberadamente provocar falhas, respostas perigosas ou usos indevidos de um sistema de IA.
Do inglês "red teaming". Pode ser feito por pessoas, por ferramentas automatizadas ou pelos dois. Serve para descobrir problemas antes do lançamento e alimenta as correções, mas cobre apenas o que foi testado: não produz garantia de segurança e precisa ser repetido a cada mudança relevante.
Também aparece como: red teaming, red team
Para se aprofundar
Os links levam ao trabalho original, à especificação oficial ou ao documento normativo. As definições deste glossário são escritas pela redação.