読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
input_guardrail を付けた関数は、エージェントが動き出すときに、入力を受け取って検査します。問題があれば tripwire_triggered=True を返し、エージェントを止めます。
BLOCKED_WORDS = ["カード番号", "パスワード"]
@input_guardrail
def no_secrets(ctx, agent, user_input) -> GuardrailFunctionOutput:
text = user_input if isinstance(user_input, str) else str(user_input)
found = [w for w in BLOCKED_WORDS if w in text]
return GuardrailFunctionOutput(output_info={"found": found}, tripwire_triggered=bool(found))
この例は、決まった言葉が入っているかを見るだけの、簡単な検査です。小さいモデルに「この文に個人の情報が含まれるか」を判定させるガードレールを作ることもできます。
6 / 20