読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第2節 長いコンテキストとRAGの費用の比べ方

2.1 計算の式

この章の架空の単価(ふだん使うモデル:入力100万トークンあたり300円、キャッシュから読む入力30円)を使います。

全部渡す(キャッシュ)の1回の入力の費用 = 資料のトークン ÷ 1,000,000 × 30円 + 質問の分
RAGの1回の入力の費用 = 渡す区切りのトークン ÷ 1,000,000 × 300円 + 質問の分

質問の分は、どちらも同じなので、比べるときは省けます。

資料のトークン全部渡す(キャッシュ)RAG(3件で1,500トークン)
5,0000.15円0.45円
2万0.6円0.45円
20万6円0.45円
100万30円0.45円

資料が数万トークンまでなら、費用の差は小さく、仕組みが要らない分、全部渡す方法が手軽です。

6 / 20