読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 AIに答えさせない質問

1.2 言葉で見分けて、先に返す

練習ファイルは practice/vol3 にあります。guards.py で、店員につなぐ質問を見分けます。

# 答えを間違えると体に害が出るおそれがある質問は、AIに答えさせず店員につなぐ
HANDOFF_WORDS = ["アレルギー", "原材料", "小麦", "卵", "乳", "ナッツ", "そば"]


def needs_staff(question: str) -> bool:
    return any(word in question for word in HANDOFF_WORDS)

/ask では、検索とLLMより前に確かめます。

    question = mask_personal(request.question)
    if needs_staff(question):
        logger.info("ask status=handoff chars=%d", len(question))
        return AskResponse(status="handoff", answer=HANDOFF, sources=[])
{"status": "handoff", "answer": "アレルギーや原材料については、ご注文の前に店員へ直接ご相談ください。", "sources": []}

見分けるのに、LLMを使っていません。「この質問はアレルギーに関係しますか」とLLMに判断させると、判断を誤ることがあり、その誤りがそのまま害につながるからです。言葉の一覧は、見落としはあっても、どの言葉で止まるかが決まっていて、テストで確かめられます。

解答

1つ目は「ナッツ」を含むので、LLMを呼ばずに handoff を返します。2つ目は一覧の言葉を含まないので、検索に進みます。焼き上がりの時刻は資料にないため、基準を超える区切りがなければ no_source になります。

3 / 23