読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
蓮は、分類の指示に、分類ごとの例を10件ずつ(70件、約3,000トークン)入れる方法と比べました。架空の単価(小さいモデル:入力100万トークンあたり30円、キャッシュから読む入力3円)で計算します。
| 方法 | 1件の入力 | 1日1,000件の入力の費用 |
|---|---|---|
| 例70件を毎回入れる | 3,800(例3,000+問い合わせ800) | 114円 |
| 例をキャッシュから読む | 3,000(キャッシュ)+800 | 33円 |
| 調整したモデル(例を入れない) | 800 | 24円(動かす費用は別) |
1日1,000件でも、キャッシュを使えば、入力の費用の差は1日に十円ほどです。データづくりと、動かし続ける費用を考えると、この規模では、例を入力に入れる方法のほうが手間に合います。
キャッシュの方法は1件0.033円で3万3,000円、調整したモデルは1件0.024円で2万4,000円です。差は1日9,000円で、年に300万円を超えます。件数がこの規模になると、調整の手間に見合う可能性が出てきます。
11 / 20