読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 費用と手間

3.2 入力に例を入れる方法と比べる

蓮は、分類の指示に、分類ごとの例を10件ずつ(70件、約3,000トークン)入れる方法と比べました。架空の単価(小さいモデル:入力100万トークンあたり30円、キャッシュから読む入力3円)で計算します。

方法1件の入力1日1,000件の入力の費用
例70件を毎回入れる3,800(例3,000+問い合わせ800)114円
例をキャッシュから読む3,000(キャッシュ)+80033円
調整したモデル(例を入れない)80024円(動かす費用は別)

1日1,000件でも、キャッシュを使えば、入力の費用の差は1日に十円ほどです。データづくりと、動かし続ける費用を考えると、この規模では、例を入力に入れる方法のほうが手間に合います。

解答

キャッシュの方法は1件0.033円で3万3,000円、調整したモデルは1件0.024円で2万4,000円です。差は1日9,000円で、年に300万円を超えます。件数がこの規模になると、調整の手間に見合う可能性が出てきます。

11 / 20