本課程專為資料科學家與機器學習開發人員設計,這些人員有意使用 Amazon Bedrock API 或 LangChain 整合項目建置生成式人工智慧 (生成式 AI) 應用程式。在本課程中,您會學到為重要生成式 AI 使用案例建置應用程式的架構模式。
本單元會帶您認識生成與摘要文字、問答及聊天機器人的範例。實驗室會運用 API Call、SDK 和 LangChain 之類的開源工具來示範 Amazon Bedrock 模型的用法。
- 課程等級:進階
- 持續時間:4 小時
活動
本課程包含線上學習互動、知識檢測和實驗室。
課程目標
在本課程中,您將學習:
- 辨識生成式 AI 應用程式的組成元件,以及基礎模型 (FM) 的自訂方式
- 說明 Amazon Bedrock 基礎模型、推論參數和關鍵 Amazon Bedrock API
- 辨識有助監控、保護和管控 Amazon Bedrock 應用程式的 Amazon Web Services (AWS) 產品
- 說明如何為 Amazon Bedrock 整合 LangChain 與大型語言模型 (LLM)、提示範本、鏈、聊天模型、文字內嵌模型、文件載入器、擷取程式和代理程式
- 說明可用 Amazon Bedrock 實作以建置生成式 AI 應用程式的架構模式
- 應用概念來建置並測試運用多種 Amazon Bedrock 模型、LangChain 和檢索增強生成 (RAG) 做法的使用案例範例
目標對象
本課程適用於:
- 資料科學家
- 機器學習 (ML) 開發人員
先決條件
我們建議參加本課程的學員應具備:
- 中級至專家熟練度的 Python 程式設計能力
- 已完成 AWS Technical Essentials 課程
- Practical Data Science with Amazon SageMaker (中級)
- Amazon Bedrock Getting Started (基礎級)
- Foundations of Prompt Engineering (中級)
課程大綱
單元 1:Amazon Bedrock 簡介
- 在 Amazon Bedrock 上建置生成式 AI 應用程式
- 應用程式與使用案例
- 未來單元涵蓋的主題
- 結語
單元 2:應用程式元件
- 生成式 AI 應用程式元件概觀
- 基礎模型和 FM 介面
- 使用資料集和內嵌功能
- 其他應用程式元件
- RAG
- 模型微調作業
- 保護生成式 AI 應用程式
- 生成式 AI 應用程式架構
- 知識檢測
- 結語
單元 3:基礎模型
- Amazon Bedrock 基礎模型簡介
- 使用 Amazon Bedrock FM 進行推論
- Amazon Bedrock 方法
- 資料保護及可稽核性
- 知識檢測
- 結語
單元 4:使用 LangChain
- 最佳化 LLM 效能
- 整合 AWS 與 LangChain
- 使用模組搭配 LangChain
- 建構提示
- 用索引建構文件
- 用記憶儲存並擷取資料
- 使用鏈排序元件
- 用 LangChain 代理程式管理外部資源
- 知識檢測
- 結語
單元 5:架構模式
- 架構模式簡介
- 測試生成與文字摘要
- 回答問題
- 聊天機器人
- 程式碼生成
- LangChain 與 Amazon Bedrock 代理程式
- 知識檢測
- 結語
單元 6:實作實驗室
- 實驗室簡介
- 實驗室 1:執行文字生成
- 實驗室 2:建立文字摘要
- 實驗室 3:用 Amazon Bedrock 進行問答
- 實驗室 4:建置聊天機器人
- 實驗室 5:使用 Amazon Bedrock 模型生成程式碼
- 實驗室 6:整合 Amazon Bedrock 模型與 LangChain 代理程式
- 結語