Guardrails de saída: o que a IA pode devolver

Guardrails de saída são as travas depois do modelo: formato, fonte, limite e recusa. O modelo propõe. A trava decide se aquilo pode virar campo, mensagem ou ação. Sem a trava, texto bem escrito entra no sistema mesmo quando inventou um número.
Trava de entrada, o que o modelo pode ver, não substitui a de saída. Dá para receber contexto certo e devolver um campo a mais, um tom proibido ou uma ação fora da lista. As duas existem.

Qual formato a resposta precisa obedecer?
Se a saída preenche campo, o contrato é um esquema: quais chaves existem, qual tipo, qual obrigatório. Chave extra se descarta ou recusa, conforme o risco. Valor que não converte no tipo não entra. Texto livre no lugar de um código de fila é falha, não “quase certo”.
O esquema é validado por código, não por outro pedido educado ao modelo. Pedir “responda em JSON” e confiar no texto é como não ter trava. O parser quebra, a trava recusa, o caso vai para revisão ou para a regra.
Quando a resposta precisa citar fonte?
Quando fala de regra da empresa, número ou política. A citação aponta para o documento vigente. Resposta sem fonte, nesse tipo de pergunta, não segue. Se a busca não achou trecho, a saída correta é a recusa, não um parágrafo genérico.
A trava confere se a citação está na lista que a busca devolveu. O modelo não inventa um identificador de documento. Citação fora da lista recusa. Isso pega a resposta que soa interna e veio do nada.
| Tipo de saída | Trava | Se falhar |
|---|---|---|
| Campo de cadastro | Esquema e tipo | Revisão ou recusa |
| Regra interna | Citação na lista recuperada | Recusa |
| Mensagem a cliente | Tom, limite e bloqueio de promessa | Não envia |
| Ação | Ferramenta da lista e teto | Para, sem executar |
O que a mensagem ao cliente não pode prometer?
Não promete prazo, desconto, estorno ou admissão que a política não autoriza. A trava procura esses compromissos, ou melhor, exige que a mensagem saia de um molde aprovado com buracos só onde o dado é fato. Texto livre ao cliente é o guardrail mais fácil de furar.
Dado pessoal que não deveria voltar na resposta também se bloqueia. O modelo às vezes repete o documento que viu no contexto. A saída passa por uma lista do que pode aparecer. O resto é removido ou a mensagem não sai.
Como a recusa vira caminho, não erro opaco?
Recusa tem motivo: esquema inválido, sem fonte, acima do teto, ferramenta fora da lista. O caso vai para a fila certa com esse motivo. Um “erro 500” faz o retry repetir a mesma saída ruim. A recusa de conteúdo não é instabilidade do serviço.
A taxa de recusa é sinal de desenho. Muita recusa de esquema pode ser tarefa larga demais. Pouca recusa, com erro aparecendo depois no cadastro, significa trava frouxa. Os dois se leem. Recusa zero não é meta.
Onde a trava mora em relação ao modelo?
Fora do modelo, em código que dá para testar. Trocar de modelo não pode levar a trava embora. A amostra de saídas ruins, incluindo JSON quebrado, citação falsa e promessa indevida, roda em toda troca de prompt ou de modelo.
Pedir ao próprio modelo para “verificar se você obedeceu” é revisão circular. Pode ajudar a reescrever. Não é a trava que libera o cadastro. Quem libera é a checagem determinística.
Um exemplo de extração que devolveu campo a mais
O modelo devolve total, data e um desconto que não estava no esquema. A trava recusa o objeto, ou aceita só as chaves conhecidas e manda o caso para revisão porque apareceu campo inesperado no documento. O desconto não entra sozinho no contas a pagar.
Na amostra de regressão, esse caso está guardado. Uma troca de prompt que volta a deixar o campo extra passar não publica. A trava falhou no teste, não em produção.
Checklist prático
A saída está travada quando formato, fonte e limite são código, não um pedido ao modelo.
- Esquema validado por código para toda saída que vira campo
- Chave inesperada recusada ou revista, não gravada
- Citação conferida contra a lista que a busca devolveu
- Recusa explícita quando não há fonte
- Mensagem a cliente em molde, sem promessa fora da política
- Dado pessoal bloqueado na volta da resposta
- Motivo da recusa na fila, sem retry cego
- Amostra de saídas ruins rodando em toda troca de modelo
Erros comuns
A resposta errada entra quando a trava é outro texto pedindo boa conduta.
- Confiar em “responda em JSON” sem parser
- Gravar chave extra porque veio preenchida
- Aceitar citação que não estava nos trechos recuperados
- Completar com texto genérico quando a busca volta vazia
- Deixar o modelo escrever livre a mensagem ao cliente
- Repetir a chamada quando a recusa é de conteúdo
- Pedir ao mesmo modelo para aprovar a própria saída
- Trocar de modelo sem rerodar a amostra de saídas ruins
Onde a trava entra no desenho?
Num projeto de inteligência artificial, guardrails de saída são o contrato depois do modelo. O que não passa na checagem não vira efeito.