読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第2節 ガードレール

2.1 入力のガードレールを作る

input_guardrail を付けた関数は、エージェントが動き出すときに、入力を受け取って検査します。問題があれば tripwire_triggered=True を返し、エージェントを止めます。

BLOCKED_WORDS = ["カード番号", "パスワード"]


@input_guardrail
def no_secrets(ctx, agent, user_input) -> GuardrailFunctionOutput:
    text = user_input if isinstance(user_input, str) else str(user_input)
    found = [w for w in BLOCKED_WORDS if w in text]
    return GuardrailFunctionOutput(output_info={"found": found}, tripwire_triggered=bool(found))

この例は、決まった言葉が入っているかを見るだけの、簡単な検査です。小さいモデルに「この文に個人の情報が含まれるか」を判定させるガードレールを作ることもできます。

6 / 20