読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第5節 LMとLLM

5.3 クラウド型・オンプレミス・オープンソースのLLM

LLMの使い方は、どこでモデルを動かすかによって分かれます。

形内容主な利点主な注意点
クラウド型LLM提供する会社のサーバーで動くLLMを、インターネット経由で使うすぐに使え、高性能なモデルを使える入力したデータが外部に送られる
オンプレミスLLM自社のサーバーなど、自分たちが管理する環境でLLMを動かすデータを外部に出さずに使える機器や運用の費用と手間がかかる

オンプレミスで動かすには、モデルの中身(重み)が公開されている必要があります。重みが公開され、ダウンロードして使えるモデルを、オープンウェイトのモデルといいます。学習の方法やデータまで含めて公開し、自由な利用を認めるものを、オープンソースLLMと呼ぶこともあります。どちらの場合も、商用利用ができるかなど、使える範囲はライセンス(利用条件)によって異なります。

自分たちのデータを、自分たちの管理と国の法律のもとに置くという考え方を、データ主権といいます。機密性の高い情報を扱う組織では、オンプレミスLLMが選ばれることがあります。

解答

正解は2です。1は機密情報を外部に送ることになります。3は、使える範囲がライセンスによって異なるため誤りです。4のコンテキストウィンドウの大きさは、データを外部に送るかどうかとは関係ありません。

24 / 25