学習内容
3章中第1章
FastAPIとLLM LLMのAPIを呼ぶ
手元のPCで無料で動くOllamaを使い、FastAPIからLLMを呼ぶ処理を作ります。設定と時間切れ、503・502の応答、JSONの形を指定して受け取る検査、渡していない事実を見つける確認、偽のLLMでのテストを学びます。
- 20ページ
3章中第2章
FastAPIとLLM 店の資料に答えるRAG
店の資料を見出しで区切り、埋め込みをPostgreSQLに保存して、質問に近い資料を探します。類似度の基準の決め方、資料を渡すプロンプト、出典をアプリで決める設計、/ask の窓口とテストを学びます。
- 23ページ
3章中第3章
FastAPIとLLM 安全と評価
アレルギーなど答えさせない質問の扱い、入力の検査と個人情報の伏せ字、ログに書かないこと、プロンプトインジェクションを実際に試して止める方法、評価の質問集と公開前の確認表を学びます。
