読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第5節 費用と速さ

5.1 RAGの費用の内訳

RAGの費用は、主に次の3つです。

費用内容
準備区切りの埋め込みを作る。資料を直すたびにかかるが、埋め込みのモデルは安い
検索質問の埋め込みと、保存先での検索。1回あたりは小さい
答え見つかった区切りと質問を、答えのモデルに渡す。費用の大部分

答えの費用は、渡す区切りの量で決まります。3件で1,500トークンなら、資料の全体(2万トークン)を毎回渡すより、入力はずっと小さくなります。準備と検索の費用は、答えの費用に比べると小さく、多くの場合は見積もりで大きな差になりません。

18 / 20