読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 トークンとコンテキストの長さ

1.1 トークンは、モデルが文を数える単位

各社の料金の表には「100万トークンあたり」と書かれています。トークンは、モデルが文を読み書きするときの小さな区切りです。

早紀が問い合わせの返信をAIに頼むと、次のトークンが数えられます。

数えられるもの例料金の区分
送った文お客さんのメール、店の案内、頼んだ文入力
返ってきた文返信の下書き出力
見えない文製品やアプリが加える指示入力

チャット製品では、トークンの数は画面に出ません。APIでは、応答の中に「入力のトークン数」と「出力のトークン数」が書かれて返ってきます。

日本語のトークン数は、文字数とおおよそ同じか、少し多めと見積もっておくと安全です。正確な数は、APIの応答に書かれた数で確かめます。

2 / 20