読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
RAGの費用は、主に次の3つです。
| 費用 | 内容 |
|---|---|
| 準備 | 区切りの埋め込みを作る。資料を直すたびにかかるが、埋め込みのモデルは安い |
| 検索 | 質問の埋め込みと、保存先での検索。1回あたりは小さい |
| 答え | 見つかった区切りと質問を、答えのモデルに渡す。費用の大部分 |
答えの費用は、渡す区切りの量で決まります。3件で1,500トークンなら、資料の全体(2万トークン)を毎回渡すより、入力はずっと小さくなります。準備と検索の費用は、答えの費用に比べると小さく、多くの場合は見積もりで大きな差になりません。
18 / 20