読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
@router.post("/ask", response_model=AskResponse)
def ask(
request: AskRequest,
session: Annotated[Session, Depends(get_session)],
llm: Annotated[OllamaClient, Depends(get_llm)],
):
started = time.perf_counter()
question = request.question
try:
hits = search(session, llm, question)
if not hits:
logger.info("ask status=no_source hits=0 chars=%d", len(question))
return AskResponse(status="no_source", answer=NO_SOURCE, sources=[])
answer = llm.chat(build_messages(question, hits)).strip()
except LLMError:
logger.warning("ask status=llm_unavailable chars=%d", len(question))
raise llm_unavailable()
この後、答えが空か「資料にありません」を含むなら no_source、そうでなければ answered を返します。
status | 意味 | answer | sources |
|---|---|---|---|
answered | 資料をもとに答えた | モデルの答え | 渡した区切り |
no_source | 基準を超える区切りがない、またはモデルが「資料にありません」と答えた | 店へ問い合わせてもらう決まった文 | 空 |
qwen2.5:3b で「季節のタルトを予約したい」と送ると、次の応答が返りました。
{
"status": "answered",
"answer": "季節のタルトは予約できません。",
"sources": [
{"id": "shop_guide.md#3", "heading": "予約できない商品"},
{"id": "shop_guide.md#2", "heading": "予約の締め切り"},
{"id": "shop_guide.md#4", "heading": "受け取り"}
]
}
基準を超える区切りがないときは、LLMの chat を呼ばずに no_source を返します。答えられないと分かっている質問で、モデルを待たせないためです。
18 / 20