読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
モデルの本体は、大量の数値(重み)の集まりです。この重みを公開している会社があります。重みを入手すれば、自分のパソコンや、自分で借りたサーバーでモデルを動かせます。
手元で動かす道具の一つに、Ollamaがあります。Ollamaを入れ、モデルを取得すると、インターネットにつながっていなくてもモデルが動きます。
| 比べる点 | クラウドのAPI | 手元で動かすモデル |
|---|---|---|
| 料金 | 使った量に応じて払う | 電気代とパソコンだけ |
| 送った文の行き先 | 提供する会社のサーバー | パソコンの外へ出ない |
| 答えの質 | 大きなモデルを使える | パソコンで動く大きさに限られる |
| 準備 | 鍵を作るだけ | 道具を入れ、数GBのモデルを取得する |
| 新しいモデル | 会社が更新する | 自分で取得し直す |
手元で動かす方法は、「FastAPIとLLMでRAGを作る」で、実際にOllamaを使って扱っています。
18 / 20