読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第4節 ハルシネーションと生成の設定

4.2 生成パラメータ:TemperatureとTop-p

生成AIの答えの性質は、生成パラメータという設定で変えられます。主に、APIなど開発者向けの使い方で設定します。

パラメータ意味値を小さくすると値を大きくすると
Temperature確率の差をどれだけ強めるか・弱めるか確率の高い語を選びやすくなり、答えが安定する確率の低い語も選ばれやすくなり、答えが多様になる
Top-p確率の高い順に足して、合計がpになるまでの候補から選ぶ候補が少なくなり、答えが安定する候補が多くなり、答えが多様になる

千尋の店の作業でいえば、商品の価格表を整えるような、決まった答えが求められる作業では、値を小さくします。キャッチコピーの案を多く出してもらうような作業では、値を大きくします。

18 / 25