読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 手元でLLMを動かす

1.1 Ollamaとモデルを用意する

LLMをアプリから使う方法は、大きく2つあります。

方法例費用入力した文章の行き先
クラウドのAPI各社の有料のAPI使った量に応じた料金。カードの登録が必要なことが多い提供する会社のサーバー
手元のPCで動かすOllama無料PCの外へ送られない

この章では、Ollamaを使います。料金がかからず、練習の文章が外部へ送られないためです。答えの質は、大きなクラウドのモデルより下がります。その差を、この章の中で実際の出力を使って確かめます。

Ollamaは、公式サイト(https://ollama.com/ )から、Windows・macOS・Linuxの版を入手できます。入れたら、ターミナルで次を実行します。実行するフォルダはどこでもかまいません。

ollama pull qwen2.5:3b
ollama list
NAME          ID              SIZE      MODIFIED
qwen2.5:3b    357c53fb659c    1.9 GB    5 minutes ago

qwen2.5:3b は、日本語も扱える小さめのモデルです。取得には約1.9GBの空き容量と通信が必要です。取得した後は、通信なしで動きます。

2 / 20