Explora cómo realizar prompts multimodales e inferencia en CPU utilizando el modelo Phi 3 Vision 128K Instruct cuantizado a 4 bits en formato ONNX con C#. Aprende a implementar estas técnicas avanzadas de procesamiento de lenguaje natural y visión por computadora en un entorno de CPU. Examina el código fuente proporcionado para comprender la implementación práctica de estos conceptos en el contexto de ciencia de datos y aprendizaje automático.
LLMOPs: Inferencia en CPU con Phi3 Vision 128k Instruct - ONNX 4bits en C#
The Machine Learning Engineer via YouTube
Overview
Syllabus
LLMOPs: Inferencia en CPU Phi3 Vision 128k Intruct ONNX 4bits en C# #datascience #machinelearning
Taught by
The Machine Learning Engineer
Related Courses
-
LLMOPs - Inferencia en CPU con Phi3 4k Instruct ONNX 4bits en C#
-
LLMOPs: Multimodal Prompting and Inference with Phi-3 Vision 128K Instruct on CPU - ONNX 4-Bit Quantization in C#
-
Inferencia en CPU con Microsoft Florence 2 ONNX en C# - LLMOPs
-
MLOps with MLFlow: Comparing Microsoft Phi3 Mini 128k in GGUF, MLFlow, and ONNX Formats
-
LLMOps: Inferencia de Clasificador ViT Fine-Tuned en CPU con C#
-
Microsoft LLMs: Phi3 Vision 128k Instruct and Florence Large - Introduction to Multimodal Models
