読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 推論の深さと出力の長さ

3.2 返させる長さを決める

max_output_tokens は、返させる長さの上限です。長さの指示(「5文以内」)は instructions に書き、max_output_tokens は安全のための上限として、少し余裕のある値にします。

決めること書く場所例
答えの長さの目安instructions「5文以内」「300字以内」
長さの上限(安全網)max_output_tokens800

返信の下書き5文は、日本語でおよそ200〜300トークンです。推論の分を見込んで、蓮は800にしました。

解答例

推論のトークンで上限を使い切っています。max_output_tokens を大きくする(たとえば2,000)か、effort を medium に下げて、結果を比べます。usage.output_tokens_details.reasoning_tokens で、推論にどれだけ使ったかを確かめます。

11 / 20