読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
練習ファイルは practice/vol3 にあります。guards.py で、店員につなぐ質問を見分けます。
# 答えを間違えると体に害が出るおそれがある質問は、AIに答えさせず店員につなぐ
HANDOFF_WORDS = ["アレルギー", "原材料", "小麦", "卵", "乳", "ナッツ", "そば"]
def needs_staff(question: str) -> bool:
return any(word in question for word in HANDOFF_WORDS)
/ask では、検索とLLMより前に確かめます。
question = mask_personal(request.question)
if needs_staff(question):
logger.info("ask status=handoff chars=%d", len(question))
return AskResponse(status="handoff", answer=HANDOFF, sources=[])
{"status": "handoff", "answer": "アレルギーや原材料については、ご注文の前に店員へ直接ご相談ください。", "sources": []}
見分けるのに、LLMを使っていません。「この質問はアレルギーに関係しますか」とLLMに判断させると、判断を誤ることがあり、その誤りがそのまま害につながるからです。言葉の一覧は、見落としはあっても、どの言葉で止まるかが決まっていて、テストで確かめられます。
1つ目は「ナッツ」を含むので、LLMを呼ばずに handoff を返します。2つ目は一覧の言葉を含まないので、検索に進みます。焼き上がりの時刻は資料にないため、基準を超える区切りがなければ no_source になります。
3 / 23