読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
LLMをアプリから使う方法は、大きく2つあります。
| 方法 | 例 | 費用 | 入力した文章の行き先 |
|---|---|---|---|
| クラウドのAPI | 各社の有料のAPI | 使った量に応じた料金。カードの登録が必要なことが多い | 提供する会社のサーバー |
| 手元のPCで動かす | Ollama | 無料 | PCの外へ送られない |
この章では、Ollamaを使います。料金がかからず、練習の文章が外部へ送られないためです。答えの質は、大きなクラウドのモデルより下がります。その差を、この章の中で実際の出力を使って確かめます。
Ollamaは、公式サイト(https://ollama.com/ )から、Windows・macOS・Linuxの版を入手できます。入れたら、ターミナルで次を実行します。実行するフォルダはどこでもかまいません。
ollama pull qwen2.5:3b
ollama list
NAME ID SIZE MODIFIED
qwen2.5:3b 357c53fb659c 1.9 GB 5 minutes ago
qwen2.5:3b は、日本語も扱える小さめのモデルです。取得には約1.9GBの空き容量と通信が必要です。取得した後は、通信なしで動きます。
2 / 20