読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第2節 プロンプトキャッシュ

第2節のまとめ

  • キャッシュしたい部分の最後に cache_control を付ける
  • 保たれる時間は初期で5分、ttl で1時間にできる
  • usage の cache_read_input_tokens で、効いたかを確かめる
  • 変わらない資料を先に、変わる質問を後に置く

8 / 20