読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第2節 長いコンテキストとRAGの費用の比べ方

2.2 費用のほかに比べること

比べること全部渡すRAG
仕組みを作る手間ない区切り、索引、検索、更新の仕組み
取りこぼしない(読み落としはありうる)検索で見つからない部分は使われない
全体をまとめる質問できる苦手
速さ資料が長いと、答えが出るまで時間がかかる入力が小さく、速い
閲覧の権限の扱い見てよい資料だけを渡す必要がある区切りごとに絞れる
解答

全部渡す(キャッシュ)は1回24円で、1日48万円です。RAGは1回0.45円で、1日9,000円です。この量と件数では、RAGが合っています。

7 / 20