読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第2節 長いコンテキストとRAGの費用の比べ方

第2節のまとめ

  • 全部渡す方法とRAGの費用は、資料のトークンと、渡す区切りのトークンから計算できる
  • 資料が数万トークンまでなら、費用の差は小さく、全部渡す方法が手軽
  • 資料と件数が大きいと、RAGの費用の利点が大きくなる
  • 費用のほかに、手間・取りこぼし・全体の質問・速さ・権限を比べる

8 / 20