読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第5節 記録と見直し

5.1 本文を書かずに記録する

蓮は、要求ごとに、モデル・トークン数・費用の目安・かかった時間を記録することにしました。

log.info(json.dumps({
    "model": response.model,
    "status": response.status,
    "input_tokens": response.usage.input_tokens,
    "output_tokens": response.usage.output_tokens,
    "yen": round(estimate_yen(response.usage), 3),
    "seconds": round(time.monotonic() - started, 2),
}))

記録には、お客さんの問い合わせの本文や、AIの答えの本文を書きません。記録のファイルは多くの人や道具から読まれやすく、個人の情報が広がるおそれがあるためです。

記録すること記録しないこと
モデルの名前、状態問い合わせの本文
トークン数、費用の目安AIの答えの本文
かかった時間お客さんの名前・住所・電話番号
エラーの種類APIキー

18 / 20