Overview
Aprende sobre la cuantización de modelos de lenguaje grandes (LLM) y su importancia en este tutorial de 43 minutos. Explora qué es la cuantización y cómo aplicarla en el entrenamiento, ajuste fino o inferencia de LLMs. Accede a notebooks prácticos y una presentación que cubren los conceptos clave, incluyendo tipos de datos en cuantización. Descubre por qué el tamaño es crucial en el rendimiento y eficiencia de los LLMs.
Syllabus
LLM Quantization: Porque el tamaño importa
Taught by
The Machine Learning Engineer