読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
LLMの使い方は、どこでモデルを動かすかによって分かれます。
| 形 | 内容 | 主な利点 | 主な注意点 |
|---|---|---|---|
| クラウド型LLM | 提供する会社のサーバーで動くLLMを、インターネット経由で使う | すぐに使え、高性能なモデルを使える | 入力したデータが外部に送られる |
| オンプレミスLLM | 自社のサーバーなど、自分たちが管理する環境でLLMを動かす | データを外部に出さずに使える | 機器や運用の費用と手間がかかる |
オンプレミスで動かすには、モデルの中身(重み)が公開されている必要があります。重みが公開され、ダウンロードして使えるモデルを、オープンウェイトのモデルといいます。学習の方法やデータまで含めて公開し、自由な利用を認めるものを、オープンソースLLMと呼ぶこともあります。どちらの場合も、商用利用ができるかなど、使える範囲はライセンス(利用条件)によって異なります。
自分たちのデータを、自分たちの管理と国の法律のもとに置くという考え方を、データ主権といいます。機密性の高い情報を扱う組織では、オンプレミスLLMが選ばれることがあります。
正解は2です。1は機密情報を外部に送ることになります。3は、使える範囲がライセンスによって異なるため誤りです。4のコンテキストウィンドウの大きさは、データを外部に送るかどうかとは関係ありません。
24 / 25