読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 トークンとコンテキストの長さ

第1節のまとめ

  • トークンは、モデルが文を数える単位で、料金の計算にも使われる
  • 日本語は、文字数と同じか少し多めのトークン数と見積もり、APIの応答で確かめる
  • コンテキストの長さは、送る文・履歴・返る文を合わせた上限
  • 同じ会社のモデルでも、入口とプランによって上限が違う

4 / 20