- レベル
- 中級
- 冊数
- 全3冊
- 所要時間
- 2時間45分
FastAPIでDBに保存するAPIを作れる人が、アプリにLLM(大規模言語モデル)を組み込む方法を学ぶ教材です。こもれびベーカリーのAPIに、商品の紹介文の下書きと、店の資料をもとにお客さんの質問に答える窓口(RAG)を加えます。答えを決まった形で受け取って検査する方法、偽のLLMでのテスト、店員につなぐ質問、個人情報の伏せ字、プロンプトインジェクション、評価の質問集までを3冊で扱います。LLMは無料で手元のPCで動くOllamaを使い、各巻に動く練習ファイルとテストがあります。
学習内容

3冊中1冊目
ここから
FastAPIとLLM LLMのAPIを呼ぶ
手元のPCで無料で動くOllamaを使い、FastAPIからLLMを呼ぶ処理を作ります。設定と時間切れ、503・502の応答、JSONの形を指定して受け取る検査、渡していない事実を見つける確認、偽のLLMでのテストを学びます。
55分20ページ
3冊中2冊目
FastAPIとLLM 店の資料に答えるRAG
店の資料を見出しで区切り、埋め込みをPostgreSQLに保存して、質問に近い資料を探します。類似度の基準の決め方、資料を渡すプロンプト、出典をアプリで決める設計、/ask の窓口とテストを学びます。
55分20ページ
3冊中3冊目
FastAPIとLLM 安全と評価
アレルギーなど答えさせない質問の扱い、入力の検査と個人情報の伏せ字、ログに書かないこと、プロンプトインジェクションを実際に試して止める方法、評価の質問集と公開前の確認表を学びます。
55分23ページ
