Guardrails de saída: o que a IA pode devolver

Bandeja de saída que só aceita cartões no formato certo e rejeita um cartão torto

Guardrails de saída são as travas depois do modelo: formato, fonte, limite e recusa. O modelo propõe. A trava decide se aquilo pode virar campo, mensagem ou ação. Sem a trava, texto bem escrito entra no sistema mesmo quando inventou um número.

Trava de entrada, o que o modelo pode ver, não substitui a de saída. Dá para receber contexto certo e devolver um campo a mais, um tom proibido ou uma ação fora da lista. As duas existem.

Molde sobre uma resposta, com campos sobrando caindo para fora
O que não cabe no molde não segue para o cadastro.

Qual formato a resposta precisa obedecer?

Se a saída preenche campo, o contrato é um esquema: quais chaves existem, qual tipo, qual obrigatório. Chave extra se descarta ou recusa, conforme o risco. Valor que não converte no tipo não entra. Texto livre no lugar de um código de fila é falha, não “quase certo”.

O esquema é validado por código, não por outro pedido educado ao modelo. Pedir “responda em JSON” e confiar no texto é como não ter trava. O parser quebra, a trava recusa, o caso vai para revisão ou para a regra.

Quando a resposta precisa citar fonte?

Quando fala de regra da empresa, número ou política. A citação aponta para o documento vigente. Resposta sem fonte, nesse tipo de pergunta, não segue. Se a busca não achou trecho, a saída correta é a recusa, não um parágrafo genérico.

A trava confere se a citação está na lista que a busca devolveu. O modelo não inventa um identificador de documento. Citação fora da lista recusa. Isso pega a resposta que soa interna e veio do nada.

Tipo de saídaTravaSe falhar
Campo de cadastroEsquema e tipoRevisão ou recusa
Regra internaCitação na lista recuperadaRecusa
Mensagem a clienteTom, limite e bloqueio de promessaNão envia
AçãoFerramenta da lista e tetoPara, sem executar

O que a mensagem ao cliente não pode prometer?

Não promete prazo, desconto, estorno ou admissão que a política não autoriza. A trava procura esses compromissos, ou melhor, exige que a mensagem saia de um molde aprovado com buracos só onde o dado é fato. Texto livre ao cliente é o guardrail mais fácil de furar.

Dado pessoal que não deveria voltar na resposta também se bloqueia. O modelo às vezes repete o documento que viu no contexto. A saída passa por uma lista do que pode aparecer. O resto é removido ou a mensagem não sai.

Como a recusa vira caminho, não erro opaco?

Recusa tem motivo: esquema inválido, sem fonte, acima do teto, ferramenta fora da lista. O caso vai para a fila certa com esse motivo. Um “erro 500” faz o retry repetir a mesma saída ruim. A recusa de conteúdo não é instabilidade do serviço.

A taxa de recusa é sinal de desenho. Muita recusa de esquema pode ser tarefa larga demais. Pouca recusa, com erro aparecendo depois no cadastro, significa trava frouxa. Os dois se leem. Recusa zero não é meta.

Onde a trava mora em relação ao modelo?

Fora do modelo, em código que dá para testar. Trocar de modelo não pode levar a trava embora. A amostra de saídas ruins, incluindo JSON quebrado, citação falsa e promessa indevida, roda em toda troca de prompt ou de modelo.

Pedir ao próprio modelo para “verificar se você obedeceu” é revisão circular. Pode ajudar a reescrever. Não é a trava que libera o cadastro. Quem libera é a checagem determinística.

Um exemplo de extração que devolveu campo a mais

O modelo devolve total, data e um desconto que não estava no esquema. A trava recusa o objeto, ou aceita só as chaves conhecidas e manda o caso para revisão porque apareceu campo inesperado no documento. O desconto não entra sozinho no contas a pagar.

Na amostra de regressão, esse caso está guardado. Uma troca de prompt que volta a deixar o campo extra passar não publica. A trava falhou no teste, não em produção.

Checklist prático

A saída está travada quando formato, fonte e limite são código, não um pedido ao modelo.

  • Esquema validado por código para toda saída que vira campo
  • Chave inesperada recusada ou revista, não gravada
  • Citação conferida contra a lista que a busca devolveu
  • Recusa explícita quando não há fonte
  • Mensagem a cliente em molde, sem promessa fora da política
  • Dado pessoal bloqueado na volta da resposta
  • Motivo da recusa na fila, sem retry cego
  • Amostra de saídas ruins rodando em toda troca de modelo

Erros comuns

A resposta errada entra quando a trava é outro texto pedindo boa conduta.

  • Confiar em “responda em JSON” sem parser
  • Gravar chave extra porque veio preenchida
  • Aceitar citação que não estava nos trechos recuperados
  • Completar com texto genérico quando a busca volta vazia
  • Deixar o modelo escrever livre a mensagem ao cliente
  • Repetir a chamada quando a recusa é de conteúdo
  • Pedir ao mesmo modelo para aprovar a própria saída
  • Trocar de modelo sem rerodar a amostra de saídas ruins

Onde a trava entra no desenho?

Num projeto de inteligência artificial, guardrails de saída são o contrato depois do modelo. O que não passa na checagem não vira efeito.

Perguntas frequentes

▸Um prompt bem escrito substitui o guardrail?

Não. O prompt orienta. O guardrail confere. Modelo obedece prompt na maioria das vezes e fura no caso que importa. A checagem de esquema e de fonte não depende do humor da resposta.

▸Recusar não piora a experiência?

Piora menos do que gravar número inventado ou prometer estorno. A recusa com motivo manda o caso para uma pessoa ou para a regra. Resposta sempre fluida, sem trava, só adia o erro para o cadastro.

▸Dá para corrigir a saída e tentar de novo?

Dá uma vez, se a falha é formato reparável e a segunda passa na mesma trava. Loop de várias tentativas até “passar” costuma contornar a regra. O limite de tentativas é curto e está escrito.

▸Guardrail deixa o modelo mais lento?

A checagem de esquema é barata perto da chamada. O custo alto é deixar a saída ruim seguir e corrigir depois na operação. A trava entra no caminho síncrono de quem vai gravar ou enviar.

▸Quem define o que é promessa proibida?

Quem responde pela política de atendimento ou pela alçada, não só quem escreveu o prompt. A lista mora com a trava, versionada. Prompt e lista que divergem fazem a mensagem furar o combinado.

▸Saída interna, sem cliente, também trava?

Trava se vira campo, fila ou número. Rascunho que uma pessoa sempre edita pode ter trava mais leve, por amostra. O critério é o efeito, não o fato de ser interno.