AIを組み込むWebアプリ：FastAPIとLLMでRAGを作る · 1冊目IT
FastAPIとLLM LLMのAPIを呼ぶ
手元のPCで無料で動くOllamaを使い、FastAPIからLLMを呼ぶ処理を作ります。設定と時間切れ、503・502の応答、JSONの形を指定して受け取る検査、渡していない事実を見つける確認、偽のLLMでのテストを学びます。
中級55分20ページ
本文の冒頭
この本では、こもれびベーカリーのAPIに、LLM（大規模言語モデル）を使う機能を加えます。この章では、無料で手元のPCで動くOllamaを入れ、文章を作るモデルを取得し、HTTPで要求を送って答えを受け取るところまでを確かめます。