読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 FastAPIの窓口にする

3.2 依存関係として受け取る

窓口の関数は、DBの Session と同じく、LLMも Depends で受け取ります。

@router.post("/staff/drafts/description", response_model=DraftOut)
def draft_description(
    request: DraftRequest,
    session: Annotated[Session, Depends(get_session)],
    llm: Annotated[OllamaClient, Depends(get_llm)],
):
    product = session.get(Product, request.productId)
    if product is None:
        raise HTTPException(status_code=404, detail={"code": "product_not_found", "message": "商品が見つかりません"})
    try:
        content = llm.chat(build_messages(product), schema=DescriptionDraft.model_json_schema())
    except LLMError:
        raise llm_unavailable()

get_llm は、設定の値で OllamaClient を作って返す関数です。Depends で受け取っておくと、5節のテストで、偽のLLMに差し替えられます。

応答は、次のように分けました。

場合状態コードdetail.code
商品がない404product_not_found
LLMに接続できない、時間切れ503llm_unavailable
下書きができた200(本文に下書き)

Ollamaを止めた状態(接続先を使われていない番号にした状態)で送ると、次の応答が返りました。

{"detail": {"code": "llm_unavailable", "message": "ただいま文章を作れません。時間をおいてお試しください"}}

503は「今は使えないが、時間をおけば使えるかもしれない」ことを表します。FastAPIシリーズで、DBに接続できないときに使った応答と同じ考え方です。

11 / 20