読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
小さいモデルは、ふだん使うモデルより速く、安くなります。答えが短く、決まった形の仕事は、小さいモデルで足りることが多くあります。
def route(task: str) -> str:
"""作業の種類で、モデルの役割を選ぶ。"""
return model_small() if task in {"classify", "extract"} else model_main()
| 仕事 | 種類 | 使うモデル |
|---|---|---|
| 問い合わせの分類 | classify | 小さいモデル |
| 注文番号などの抜き出し | extract | 小さいモデル |
| 返信の下書き | reply | ふだん使うモデル |
| 月の報告 | report | ふだん使うモデル |
振り分けの決まりは、1つの関数にまとめておきます。決まりを変えるときに、直す場所が1か所で済みます。
14 / 20