読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
max_output_tokens に達すると、答えは途中で止まり、status が incomplete になります。理由は incomplete_details.reason に入ります。
if response.status == "incomplete":
raise RuntimeError(f"答えが途中で止まりました: {response.incomplete_details.reason}")
途中で止まった返信の下書きを、そのまま早紀に渡さないよう、プログラムで止めます。
費用は、usage の数に単価をかけて見積もります。練習のフォルダの midori/cost.py は、この章の架空の単価で計算します。
def estimate_yen(usage, role: str = "main") -> float:
price = PRICES[role]
cached = usage.input_tokens_details.cached_tokens
fresh = usage.input_tokens - cached
total = (
fresh * price["input"]
+ cached * price["cached_input"]
+ usage.output_tokens * price["output"]
)
return total / 1_000_000
キャッシュされた入力(cached_tokens)は安い単価で数えるため、入力から分けて計算しています。
キャッシュされていない入力は500トークンで0.15円、キャッシュされた入力1,500トークンは0.045円、出力500トークンは0.75円です。合計0.945円です。
15 / 20