読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
SDKのクライアントには、1回の要求の時間の上限と、自動の再試行の回数を設定できます。
def make_client() -> OpenAI:
# 1回の要求は30秒で打ち切り、混雑や一時的な失敗は2回まで自動で再試行する
return OpenAI(timeout=30.0, max_retries=2)
SDKは、回数の制限(429)や、サーバー側の一時的なエラー(500番台)、接続の失敗のときに、少し待ってから自動で送り直します。max_retries は、その回数の上限です。
| 設定 | 値の決め方 |
|---|---|
timeout | 早紀が待てる時間。返信の下書きなら30秒 |
max_retries | 送り直してよい回数。多すぎると、失敗に気づくのが遅れる |
10 / 20