Jailbreak
Pedido construído para fazer o modelo contornar as próprias restrições de conteúdo ou de comportamento.
Diferente da injeção de prompt, em que a instrução maliciosa chega por um conteúdo que o sistema processa, o jailbreak parte de quem conversa com o modelo. As duas técnicas se combinam com frequência. Nenhum filtro conhecido resiste a todas as variantes, razão pela qual permissões restritas e verificação da saída continuam sendo necessárias.
Também aparece como: jailbreaks
Para se aprofundar
Os links levam ao trabalho original, à especificação oficial ou ao documento normativo. As definições deste glossário são escritas pela redação.