AWS Flash - Operationalize Generative AI Applications (FMOps/LLMOps) (Indonesian)

Kursus ini memberikan gambaran tentang tantangan dalam produksi LLM dan seperangkat alat yang tersedia untuk menyelesaikannya. Kursus ini akan memberikan gambaran tentang arsitektur referensi untuk mengembangkan, men-deploy, dan mengoperasionalkan LLM, serta memperluas pada setiap tahap proses.

• Tingkat kursus: Menengah
• Durasi: 90mnt

Catatan: Kursus ini memiliki transkrip/subtitle lokal. Narasi disampaikan dalam bahasa Inggris. Untuk menampilkan subtitle, klik tombol CC di sudut kanan bawah pemutar.

Aktivitas

Kursus ini mencakup presentasi, contoh dunia nyata dan studi kasus.

Tujuan Kursus

Dalam kursus ini, Anda akan belajar:

• Membedakan antara MLOP dan LLMOps dan tentukan tantangan inti dalam operasionalisasi LLM
• Mempelajari cara memilih LLM yang optimal untuk kasus penggunaan tertentu
• Memahami cara mengevaluasi LLM dan perbedaan antara evaluasi dan benchmarking
• Menentukan komponen inti dari Retrieval-Augmented Generation (RAG) dan bagaimana hal itu dapat dikelola
• Membedakan pra-pelatihan berkelanjutan dari penyetelan mendetail
• Memahami teknik penyetelan mendetail yang tersedia secara langsung di AWS
• Mempelajari tentang apa yang harus dipantau di LLM dan cara melakukannya di AWS
• Memahami praktik terbaik tata kelola dan keamanan
• Mengilustrasikan arsitektur referensi untuk LLMOps di AWS

Sasaran Peserta 

Kursus ini ditujukan untuk:

• Data Scientist dan Teknisi ML yang ingin mengotomatiskan pembuatan dan deployment LLM
• Arsitek Solusi dan insinyur DevOps yang ingin memahami keseluruhan arsitektur platform LLMOps

Prasyarat

Peserta kursus ini disarankan memiliki:

• Penyelesaian Rencana Pembelajaran AI Generatif untuk Pengembang (digital)
• Latar belakang teknis dan pengalaman pemrograman sangat membantu

Kerangka Kursus

Modul 1: Pengantar LLMOps

• Pengantar LLMOps
• Peran LLMOps
• Tantangan dalam mengoperasionalkan LLM

Modul 2: Pemilihan LLM

• Benchmarking kasus penggunaan LLM
• Pengambilan keputusan berbasis prioritas

Modul 3: Evaluasi LLM

• Metode evaluasi
• Katalog prompt evaluasi
• Kerangka dan metrik evaluasi
• Benchmarking kerangka dan metrik

Modul 4: Retrieval Augmented Generation (RAG)

• Kustomisasi LLM
• Menanamkan model
• Basis data vektor
• Alur kerja RAG
• Teknik RAG lanjutan

Modul 5: Penyetelan mendetail LLM

• Pra-pelatihan berkelanjutan vs. penyetelan mendetail
• Parameter-efficient fine-tuning (PEFT)
• Penyetelan mendetail arsitektur

Modul 6: Monitoring LLM

• Monitoring LLM 
• Pagar pembatas LLM

Modul 7: Tata Kelola dan Keamanan LLM

• Praktik terbaik keamanan dan tata kelola
• Alat keamanan dan tata kelola

Modul 8: Arsitektur LLMOps

• Siklus hidup LLMOps

Demo

• Penyematan teks dan kesamaan semantik 
• Penyetelan mendetail dan evaluasi LLM dalam skala besar
• Perlindungan inferensi