ログイン
AIを組み込むWebアプリ:FastAPIとLLMでRAGを作る

AIを組み込むWebアプリ:FastAPIとLLMでRAGを作る

レベル
中級
冊数
全3冊
所要時間
2時間45分

FastAPIでDBに保存するAPIを作れる人が、アプリにLLM(大規模言語モデル)を組み込む方法を学ぶ教材です。こもれびベーカリーのAPIに、商品の紹介文の下書きと、店の資料をもとにお客さんの質問に答える窓口(RAG)を加えます。答えを決まった形で受け取って検査する方法、偽のLLMでのテスト、店員につなぐ質問、個人情報の伏せ字、プロンプトインジェクション、評価の質問集までを3冊で扱います。LLMは無料で手元のPCで動くOllamaを使い、各巻に動く練習ファイルとテストがあります。

学習内容

  1. 3冊中1冊目

    ここから

    FastAPIとLLM LLMのAPIを呼ぶ

    手元のPCで無料で動くOllamaを使い、FastAPIからLLMを呼ぶ処理を作ります。設定と時間切れ、503・502の応答、JSONの形を指定して受け取る検査、渡していない事実を見つける確認、偽のLLMでのテストを学びます。

    55分20ページ
  2. 3冊中2冊目

    FastAPIとLLM 店の資料に答えるRAG

    店の資料を見出しで区切り、埋め込みをPostgreSQLに保存して、質問に近い資料を探します。類似度の基準の決め方、資料を渡すプロンプト、出典をアプリで決める設計、/ask の窓口とテストを学びます。

    55分20ページ
  3. 3冊中3冊目

    FastAPIとLLM 安全と評価

    アレルギーなど答えさせない質問の扱い、入力の検査と個人情報の伏せ字、ログに書かないこと、プロンプトインジェクションを実際に試して止める方法、評価の質問集と公開前の確認表を学びます。

    55分23ページ