読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
窓口の関数は、DBの Session と同じく、LLMも Depends で受け取ります。
@router.post("/staff/drafts/description", response_model=DraftOut)
def draft_description(
request: DraftRequest,
session: Annotated[Session, Depends(get_session)],
llm: Annotated[OllamaClient, Depends(get_llm)],
):
product = session.get(Product, request.productId)
if product is None:
raise HTTPException(status_code=404, detail={"code": "product_not_found", "message": "商品が見つかりません"})
try:
content = llm.chat(build_messages(product), schema=DescriptionDraft.model_json_schema())
except LLMError:
raise llm_unavailable()
get_llm は、設定の値で OllamaClient を作って返す関数です。Depends で受け取っておくと、5節のテストで、偽のLLMに差し替えられます。
応答は、次のように分けました。
| 場合 | 状態コード | detail.code |
|---|---|---|
| 商品がない | 404 | product_not_found |
| LLMに接続できない、時間切れ | 503 | llm_unavailable |
| 下書きができた | 200 | (本文に下書き) |
Ollamaを止めた状態(接続先を使われていない番号にした状態)で送ると、次の応答が返りました。
{"detail": {"code": "llm_unavailable", "message": "ただいま文章を作れません。時間をおいてお試しください"}}
503は「今は使えないが、時間をおけば使えるかもしれない」ことを表します。FastAPIシリーズで、DBに接続できないときに使った応答と同じ考え方です。
11 / 20