Class Central is learner-supported. When you buy through links on our site, we may earn an affiliate commission.

Amazon Web Services

Building Language Models on AWS (Japanese) 日本語字幕版

Amazon Web Services and Amazon via AWS Skill Builder

Overview

Amazon SageMaker は、データサイエンティストが機械学習モデルを準備、構築、トレーニング、デプロイ、モニタリングできるよう支援します。SageMaker には、分散トレーニングライブラリ、オープンソースモデル、基盤モデルへのアクセスなど、幅広い機能が統合されています。このコースでは、経験豊富なデータサイエンティストが、大規模なテキストコーパスを処理するための言語モデル構築の課題に加え、ストレージ、取り込み、トレーニングに関するさまざまなオプションを紹介します。また、大規模モデルのデプロイや、Amazon SageMaker JumpStart を使用した生成系人工知能 
(生成 AI) タスクの基盤モデルのカスタマイズの課題についても説明します。


  • コースレベル: 上級
  • 所要時間: 5 時間 30 分 


*このコースの中の動画には日本語の字幕がついています。字幕を表示させるには、画面下の [CC] アイコンをクリックしてください。


アクティビティ

このコースには、テキストによる説明、図解、ナレッジチェック用の問題、各自の Amazon Web Services (AWS) のアカウントで実行できるラボのデモ動画が含まれています。


コースの目標

このコースでは以下について学習します。  

  • 分散トレーニングをサポートするために、大量のテキストデータを保存し取り込むためのベストプラクティスを適用する。
  • SageMaker での分散トレーニングをサポートするためのデータ並列化ライブラリとモデル並列化ライブラリについて考察する。
  • Amazon SageMaker Training Compiler や Elastic Fabric Adapter (EFA) など、トレーニングパフォーマンスを向上させるために SageMaker で利用可能なオプションについて説明する。
  • 効果的なモデルのデプロイのための大規模言語モデル (LLM) 最適化手法について考察する。
  • SageMaker JumpStart で利用可能な基盤モデルをファインチューニングする方法を実演する。


コースの対象者

このコースは次のような役職の方を対象としています。

  • データサイエンティスト
  • 機械学習エンジニア


前提条件

このコースを受講するにあたり、次の前提条件を満たしておくことをお勧めします。

  • 自然言語処理 (NLP) における 1 年以上の経験
  • 言語モデルのトレーニングおよびチューニングにおける 1 年以上の経験
  • 中級レベルの Python 言語プログラミング能力
  • AWS Technical Essentials
  • Amazon SageMaker Studio for Data Scientists



コースの概要


コースシリーズの紹介


セクション 1: はじめに

  • Building Language Models on AWSの紹介


セクション 2: 大規模言語モデルの基本

  • 大規模言語モデルの種類
  • 生成 AI の一般的なユースケース


セクション 3: コースシリーズの概要

  • 今後のモジュールで扱うトピック



言語モデル構築における課題への対処


セクション 1: 一般的な課題

  • LLM で直面する一般的な課題


セクション 2: 複数のマシンを使用したトレーニングのソリューション

  • 分散トレーニングによる LLM のスケーリング
  • データ並列化手法の適用
  • モデル並列化手法の適用


セクション 3: パフォーマンス最適化ソリューション

  • パフォーマンス最適化の手法
  • 目的別インフラストラクチャの使用


セクション 4: まとめ

  • モジュール評価テスト



Amazon SageMaker を使用した言語モデルのトレーニング


セクション 1: SageMaker Studio の設定

  • SageMaker の基本
  • SageMaker Studio Domain のセットアップ


セクション 2: SageMaker のインフラストラクチャ

  • コンピューティングインスタンスタイプの選択


セクション 3: SageMaker Python SDK の使用

  • SageMaker Python SDK の基本
  • SageMaker Python SDK による言語モデルのトレーニングおよびデプロイ


セクション 4: まとめ

  • モジュール評価テスト



デモ - Amazon SageMaker Studio のセットアップ



言語モデル用データの取り込み


セクション 1: データの準備

  • データ管理の概要
  • 取り込みに向けたデータの準備


セクション 2: データ取り込みオプションの分析

  • SageMaker Python SDK を使用したデータの読み込み
  • Amazon S3 からのデータの取り込み
  • FSx for Lustre を使ったデータの取り込み
  • データ取り込みのその他のオプション
  • データの取り込みとストレージに関する考慮事項


セクション 3: まとめ

  • モジュール評価テスト



大規模言語モデルのトレーニング


セクション 1: SageMaker トレーニングジョブの作成

  • SageMaker トレーニングジョブの起動
  • スクリプトモード用スクリプトの修正


セクション 2: SageMaker トレーニングジョブの最適化

  • モニタリングとトラブルシューティング
  • 計算パフォーマンスの最適化
  • 言語モデルトレーニングのための SageMaker トレーニング機能


セクション 3: SageMaker での分散トレーニングの使用

  • SageMaker の分散トレーニングのサポート
  • SageMaker 分散データ並列化ライブラリの使用
  • SageMaker モデル並列化ライブラリの使用
  • SageMaker モデル並列化ライブラリとシャーディングデータ並列化の使用
  • EFA を使ったトレーニング


セクション 4: トレーニングコードのコンパイル

  • SageMaker Training Compiler の使用


セクション 5: まとめ

  • モジュール評価テスト




デモ - Amazon SageMaker を使った最初の言語モデルのトレーニング



デモ - PyTorch Lightning を使用した SageMaker トレーニングでのデータ並列化



デモ - Amazon SageMaker のモデル並列化ライブラリのシャーディングデータ並列化手法を使用したニアリニアスケーリングによるGPT-のファインチューニング


言語モデルのデプロイ


セクション 1: SageMaker でのモデルのデプロイ

  • SageMaker でのデプロイの概要
  • SageMaker でのデプロイオプションの選択


セクション 2: 推論用のモデルのデプロイ

  • リアルタイム推論の概要
  • SageMaker Python SDK を使用したモデルのデプロイ
  • SageMaker Inference Recommender の使用


セクション 3: 推論のための大規模言語モデルのデプロイ

  • 最適化手法
  • モデル圧縮手法
  • モデルのパーティショニング
  • 最適化カーネルとコンパイル
  • SageMaker LMI コンテナを使ったデプロイ


セクション 4: その他の考慮事項

  • SageMaker でモデルをデプロイする際のその他の考慮事項


セクション 5: まとめ

  • モジュール評価テスト



デモ - DeepSpeed コンテナを使用した Amazon SageMaker での LLM のホスティング入門



生成 AI タスク用の基盤言語モデルのカスタマイズ


セクション 1: はじめに

  • 基盤モデルの概要


セクション 2: SageMaker JumpStart の使用

  • SageMaker JumpStart の開始方法
  • SageMaker Python SDK を使用した SageMaker JumpStart モデルのデプロイ
  • 基盤モデルの選択


セクション 3: 基盤モデルのカスタマイズ

  • プロンプトエンジニアリング
  • SageMaker Python SDK を使用した JumpStart モデルのファインチューニング


セクション 4: 検索拡張生成 (RAG)

  • 検索拡張生成 (RAG) の使用


セクション 5: まとめ

  • モジュール評価テスト



デモ - Amazon SageMaker JumpStart を使用したテキスト生成タスク用の FLAN-T5 モデルのデプロイ



すぐにやるべきこととその他のリソース


セクション 1: 復習

  • このコースシリーズで取り上げたトピック


セクション 2: まとめ

  • リソース、まとめ、次のステップ


Reviews

Start your review of Building Language Models on AWS (Japanese) 日本語字幕版

Never Stop Learning.

Get personalized course recommendations, track subjects and courses with reminders, and more.

Someone learning on their laptop while sitting on the floor.