LLMOPs: Inferencia en CPU con Phi3 Vision 128k Instruct - ONNX 4bits en C#
The Machine Learning Engineer via YouTube
Overview
Explora cómo realizar prompts multimodales e inferencia en CPU utilizando el modelo Phi 3 Vision 128K Instruct cuantizado a 4 bits en formato ONNX con C#. Aprende a implementar estas técnicas avanzadas de procesamiento de lenguaje natural y visión por computadora en un entorno de CPU. Examina el código fuente proporcionado para comprender la implementación práctica de estos conceptos en el contexto de ciencia de datos y aprendizaje automático.
Syllabus
LLMOPs: Inferencia en CPU Phi3 Vision 128k Intruct ONNX 4bits en C# #datascience #machinelearning
Taught by
The Machine Learning Engineer