読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第4節 応答の中身を読む

4.2 途中で止まった答えと、費用の目安

max_output_tokens に達すると、答えは途中で止まり、status が incomplete になります。理由は incomplete_details.reason に入ります。

if response.status == "incomplete":
    raise RuntimeError(f"答えが途中で止まりました: {response.incomplete_details.reason}")

途中で止まった返信の下書きを、そのまま早紀に渡さないよう、プログラムで止めます。

費用は、usage の数に単価をかけて見積もります。練習のフォルダの midori/cost.py は、この章の架空の単価で計算します。

def estimate_yen(usage, role: str = "main") -> float:
    price = PRICES[role]
    cached = usage.input_tokens_details.cached_tokens
    fresh = usage.input_tokens - cached
    total = (
        fresh * price["input"]
        + cached * price["cached_input"]
        + usage.output_tokens * price["output"]
    )
    return total / 1_000_000

キャッシュされた入力(cached_tokens)は安い単価で数えるため、入力から分けて計算しています。

解答

キャッシュされていない入力は500トークンで0.15円、キャッシュされた入力1,500トークンは0.045円、出力500トークンは0.75円です。合計0.945円です。

15 / 20