實驗室概觀
在此實驗室中，您將建置可回答 AWS 服務相關問題的 Chatbot。此實驗室的設計訴求是讓您實際體驗如何部署大型語言模型 (LLM)、將該模型與 Amazon Kendra 資料來源整合，以及建置可詢問 LLM 並使用檢索增強生成 (RAG) 來找出使用者問題解答的 Amazon Lex V2 Chatbot。此實驗室可協助您了解如何透過額外資訊來補充語言模型的原生能力。
您建置的 Chatbot 有三個主要元件：Flan T5-XL 基礎模型、Langchain 和 Kendra 索引。Flan T5-XL 是在 Amazon SageMaker 中託管的大型語言模型。Langchain 是用來擷取 Kendra 索引 (由 AWS 文件組成) 的架構。然後這些文件及 Chatbot 文字視窗中輸入的問題會傳遞至 Flan 模型來產生回應。此實驗室將協助您全面性地了解如何使用 Lex V2 建置 Chatbot 介面，以及如何使用各種 AWS 服務來強化語言模型的功能。
目標
此實驗室結束時，您應該能夠執行下列動作：
- 說明如何使用檢索增強生成 (RAG) 來改善生成式 AI 應用程式產生的輸出。
- 部署由大型語言模型提供支援的 Lex Chatbot。
- 將 Langchain 連結到 Amazon SageMaker 中啟動的模型。
技術知識先決條件
熟悉容器化應用程式及具備基本機器學習概念是此實驗室的必要條件。您應具備各種 AWS 服務的基本知識，包括 AWS CodeBuild、AWS Lambda、AWS CloudFormation、Amazon Kendra 和 Amazon Lex。此外，您應完成 Amazon Kendra 入門課程。
持續時間
此實驗室需要大約 75 分鐘才能完成。
圖示圖例
此實驗室使用各種圖示提醒您注意不同類型的指示和注意事項。下列清單說明各圖示的用途：
- 命令：您必須執行的命令。
- 預期輸出：您可使用的範例輸出，以驗證命令的輸出內容或經過編輯的檔案。
- 備註：提示、秘訣或重要指引。
- 了解詳情：具體指明可取得更多資訊的位置。
- 提醒：有特殊影響或重要性的資訊 (如果您錯過此資訊，不會對設備或資料造成太大的問題，但可能會導致需要重複特定步驟)。
- 警告：不可逆且可能造成命令或程序失敗的動作 (包含設定後無法變更的警告)。
- 考慮：暫停一下，思考如何將某概念應用在自有環境，或與他人討論目前這個主題。
- 檔案內容： 顯示您需要執行的指令碼或檔案內容的程式碼區塊，這是為您預先建置的內容。
- 任務完成：實驗室中的結論或摘要重點。
