読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 失敗への備え

3.1 時間の上限と再試行

SDKのクライアントには、1回の要求の時間の上限と、自動の再試行の回数を設定できます。

def make_client() -> OpenAI:
    # 1回の要求は30秒で打ち切り、混雑や一時的な失敗は2回まで自動で再試行する
    return OpenAI(timeout=30.0, max_retries=2)

SDKは、回数の制限(429)や、サーバー側の一時的なエラー(500番台)、接続の失敗のときに、少し待ってから自動で送り直します。max_retries は、その回数の上限です。

設定値の決め方
timeout早紀が待てる時間。返信の下書きなら30秒
max_retries送り直してよい回数。多すぎると、失敗に気づくのが遅れる

10 / 20