ラボの概要
このラボでは、AWS のサービスに関する質問に答えるチャットボットを作成します。ラボは、大規模言語モデル (LLM) のデプロイ、Amazon Kendra データソースとの統合、さらに、ユーザーの質問に対する回答を見つけるために、LLM にクエリを実行して検索拡張生成 (RAG) を使用する Amazon Lex V2 チャットボットの作成といった実践的な経験を提供するよう設計されています。このラボを実施すると、言語モデルの基本的な機能に情報を追加して強化する方法を理解できます。
構築するチャットボットには、Flan T5-XL Foundation モデル、Langchain、Kendra インデックスという主に 3 つのコンポーネントがあります。Flan T5-XL は、Amazon SageMaker でホストされている大規模な言語モデルです。Langchain は、AWS ドキュメントで構成された Kendra インデックスを取り込むために使用されるフレームワークです。これらのドキュメントと、チャットボットのテキストウィンドウに入力された質問は、次に Flan モデルに渡され、応答が生成されます。このラボでは、Lex V2 を使用してチャットボットのインターフェイスを構築する方法と、さまざまな AWS のサービスを使用して言語モデルの機能を強化する方法について、包括的に学習できます。
目標
このラボを修了すると、以下ができるようになります。
- 生成 AI アプリケーションによって生成された出力を改善するために検索拡張生成を使用する方法について説明する。
- 大規模言語モデルを活用した Lex チャットボットをデプロイする。
- Langchain を Amazon SageMaker で起動したモデルに接続する。
技術知識の前提条件
このラボを実施するには、コンテナ化されたアプリケーションと基本的な機械学習の概念に精通している必要があります。AWS CodeBuild、AWS Lambda、AWS Cloudformation、Amazon Kendra、Amazon Lex など、AWS のさまざまなサービスについて基本的な内容を理解している必要があります。また、Getting Started with Amazon Kendra コースを完了している必要があります。
所要時間
このラボの所要時間は約 75 分です。
アイコンキー
このラボでは、さまざまな種類の手順と注記への注意を促すため、各種アイコンが使用されています。以下のリストは、各アイコンの目的を説明したものです。
- コマンド: 実行する必要があるコマンドを表す。
- 想定される出力: 出力のサンプルであり、コマンドまたは編集済みファイルの出力を確認するときに使用する。
- 注意: ヒントや重要なガイダンス。
- 詳細: 詳細情報が記載されている場所を示す。
- 警告: 特記事項または重要な情報 (この情報を読み忘れても、機器やデータに問題が発生するというわけではありませんが、特定のステップを繰り返す必要が生じる可能性があります)。
- 警告: コマンドやプロセスの失敗に影響を与える可能性のある、元に戻せないアクション (一度設定したら変更できない設定の警告も含む)。
- 検討: あるコンセプトを自分の環境でどのように応用できるかを考えたり、学習中のトピックについて議論したりする時間。
- ファイルの内容: 事前に作成され、実行する必要のあるスクリプトまたはファイルの内容を示すコードブロック。
- タスク完了: ラボのまとめや要点を示す。
