読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第5節 /ask を仕上げてテストする

5.1 窓口の流れと応答の形

@router.post("/ask", response_model=AskResponse)
def ask(
    request: AskRequest,
    session: Annotated[Session, Depends(get_session)],
    llm: Annotated[OllamaClient, Depends(get_llm)],
):
    started = time.perf_counter()
    question = request.question
    try:
        hits = search(session, llm, question)
        if not hits:
            logger.info("ask status=no_source hits=0 chars=%d", len(question))
            return AskResponse(status="no_source", answer=NO_SOURCE, sources=[])
        answer = llm.chat(build_messages(question, hits)).strip()
    except LLMError:
        logger.warning("ask status=llm_unavailable chars=%d", len(question))
        raise llm_unavailable()

この後、答えが空か「資料にありません」を含むなら no_source、そうでなければ answered を返します。

status意味answersources
answered資料をもとに答えたモデルの答え渡した区切り
no_source基準を超える区切りがない、またはモデルが「資料にありません」と答えた店へ問い合わせてもらう決まった文空

qwen2.5:3b で「季節のタルトを予約したい」と送ると、次の応答が返りました。

{
  "status": "answered",
  "answer": "季節のタルトは予約できません。",
  "sources": [
    {"id": "shop_guide.md#3", "heading": "予約できない商品"},
    {"id": "shop_guide.md#2", "heading": "予約の締め切り"},
    {"id": "shop_guide.md#4", "heading": "受け取り"}
  ]
}

基準を超える区切りがないときは、LLMの chat を呼ばずに no_source を返します。答えられないと分かっている質問で、モデルを待たせないためです。

18 / 20