Class Central is learner-supported. When you buy through links on our site, we may earn an affiliate commission.

YouTube

AirLLM: Inferencia de LLM de 70 Billones de Parámetros en GPU de 4GB - Español

The Machine Learning Engineer via YouTube

Overview

Aprende a realizar inferencia utilizando un modelo de lenguaje grande (LLM) de 70 billones de parámetros en una GPU doméstica con solo 4GB de memoria. Este tutorial en español de 23 minutos, presentado por The Machine Learning Engineer, explora técnicas avanzadas de cuantización y optimización para ejecutar modelos de inteligencia artificial de gran escala en hardware de consumo. Accede al notebook proporcionado en GitHub para seguir paso a paso el proceso y descubre cómo aprovechar al máximo los recursos limitados de GPU para tareas de procesamiento de lenguaje natural y aprendizaje automático.

Syllabus

AirLLM Como hacer Inferencia en una GPU de 4G LLM 70billones Español #datascience #machinelearning

Taught by

The Machine Learning Engineer

Reviews

Start your review of AirLLM: Inferencia de LLM de 70 Billones de Parámetros en GPU de 4GB - Español

Never Stop Learning.

Get personalized course recommendations, track subjects and courses with reminders, and more.

Someone learning on their laptop while sitting on the floor.