实验概览
在本实验中,您将构建可回答 AWS 服务相关问题的聊天机器人。本实验旨在为您提供以下任务的动手实践经验:部署大型语言模型 (LLM),将其与 Amazon Kendra 数据源集成,构建可查询 LLM 并使用检索增强生成 (RAG) 以便为用户的问题找到答案的 Amazon Lex V2 聊天机器人。本实验应能帮助您了解如何使用附加信息补充语言模型的原生功能。
您构建的聊天机器人包含三个主要组件:Flan T5-XL 基础模型、Langchain 和 Kendra 索引。Flan T5-XL 是托管在 Amazon SageMaker 中的大型语言模型。Langchain 是一个框架,用于摄取由 AWS 文档组成的 Kendra 索引。然后,将这些文档以及在聊天机器人文本窗口中输入的问题传递到 Flan 模型,由后者生成响应。通过本实验,您将全面了解如何使用 Lex V2 构建聊天机器人界面以及如何使用不同的 AWS 服务增强语言模型的功能。
目标
完成本实验后,您应能够:
- 说明如何使用检索增强生成来改进生成式 AI 应用程序生成的输出。
- 部署由大型语言模型提供支持的 Lex 聊天机器人。
- 将 Langchain 连接到在 Amazon SageMaker 中启动的模型。
技术性知识先决条件
本实验要求您熟悉容器化应用程序和基本的机器学习概念。您应该对多种 AWS 服务(包括 AWS CodeBuild、AWS Lambda、AWS CloudFormation、Amazon Kendra 和 Amazon Lex)有基本的了解。您还需要提前完成 Amazon Kendra 入门课程。
图标说明
本实验中使用了不同图标,以提醒大家注意各种类型的说明和备注。下面的列表解释了每个图标的用途:
- 命令:您必须运行的命令。
- 预期输出:您可以用来验证命令或已编辑文件输出的示例输出。
- 注意:一项提示、技巧或重要指导。
- 了解详情:可以找到更多信息的位置。
- 提醒:特别相关或较为重要的信息(不查看该信息并不足以引起设备或数据问题,但可能导致需要重复某些步骤)。
- 警告:提醒这是一项不可逆转且可能造成命令或进程失败的操作(包括提醒配置在完成后将无法更改)。
- 思考:暂停一下,思考如何在自己的环境中应用某个概念,或者就当前的主题展开讨论。
- 文件内容:一种代码块,显示了已为您预先创建的脚本或文件的内容,您需要运行该脚本或文件。
- 任务完成:本实验的总结或结论要点。