読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第5節 出力の上限と、決まった形の出力

5.1 出力の上限

モデルが一度に返せる文の長さにも上限があります。各社のモデルの説明に「最大出力トークン数」として書かれています。APIでは、この範囲の中で、返させる長さの上限を自分で決めます。

起きたこと理由対処
商品20品の紹介文が、14品目で切れた返させる長さの上限に達した上限を上げる、または10品ずつに分けて頼む
要約が長すぎる長さの指示がない「300字以内」のように指示する
考える段階で上限に達し、答えが空になった考える量が多く、上限を使い切った上限を上げる、または考える量を減らす

APIの応答には、答えが最後まで書かれたのか、上限で止まったのかを示す値が入っています。プログラムでは、この値を見て、途中で切れた答えをそのまま使わないようにします。

18 / 20