Aprende a cuantizar el modelo original Phi3 mini a diferentes tipos de datos como bf16, fp16 o q8_0 utilizando LLama.cpp en este tutorial en video de 31 minutos. Explora el proceso paso a paso para convertir el modelo Microsoft Phi3 al formato GGUF, una técnica esencial en el campo de MLOps para LLMs. Accede a los notebooks proporcionados en GitHub para seguir la demostración práctica y aplicar estos conocimientos en tus propios proyectos de aprendizaje automático y ciencia de datos.
MLOPS LLMs - Converting Microsoft Phi3 to GGUF Format with LLaMA.cpp
The Machine Learning Engineer via YouTube
Overview
Syllabus
MLOPS LLM,s : Convertir Microsoft Phi3 a formato GGUF con LLaMA.cpp #machinelearning #datascience
Taught by
The Machine Learning Engineer
Related Courses
-
MLOPS LLMs: Converting Microsoft Phi3 to GGUF Format with LLaMA.cpp
-
MLOps: Saving and Loading Microsoft Phi3 Mini 128k in GGUF Format with MLflow
-
MLOps with MLFlow: Comparing Microsoft Phi3 Mini 128k in GGUF, MLFlow, and ONNX Formats
-
MLOps: Logging and Loading Microsoft Phi3 Mini 128k in GGUF with MLflow
-
Microsoft LLMs: Phi3 Vision 128k Instruct and Florence Large - Introduction to Multimodal Models
-
MLOps MLFlow: Deployment Server and Front-End for Interacting with Multiple LLMs
