読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 手元でLLMを動かす

第1節のまとめ

  • 手元のPCで動くOllamaを使うと、無料で、入力を外へ送らずにLLMを試せる
  • ollama pull qwen2.5:3b でモデルを取得し、ollama list で確かめる
  • http://localhost:11434/api/chat にJSONを送ると、message.content に答えが入って返る
  • temperature を 0 にすると、答えの揺れを小さくできる

4 / 20