Programa del Curso

Introducción a QLoRA y la Cuantización

  • Visión general de la cuantización y su papel en la optimización del modelo
  • Introducción al marco QLoRA y sus beneficios
  • Diferencias clave entre QLoRA y los métodos tradicionales de ajuste fino

Fundamentos de Large Language Models (LLMs)

  • Introducción a los LLMs (Modelos de Lenguaje Grande) y su arquitectura
  • Dificultades del ajuste fino de modelos grandes a gran escala
  • Cómo la cuantización ayuda a superar las restricciones computacionales en el ajuste fino de LLMs

Implementando QLoRA para Fine-Tuning LLMs

  • Configuración del marco y entorno QLoRA
  • Preparación de conjuntos de datos para el ajuste fino con QLoRA
  • Guía paso a paso para implementar QLoRA en LLMs utilizando Python y PyTorch/TensorFlow

Optimizando el Rendimiento de Fine-Tuning con QLoRA

  • Cómo equilibrar la precisión del modelo y su rendimiento mediante cuantización
  • Técnicas para reducir los costos computacionales y el uso de memoria durante el ajuste fino
  • Estrategias para realizar el ajuste fino con requisitos mínimos de hardware

Evaluación de Modelos Ajustados Fino

  • Cómo evaluar la efectividad de los modelos ajustados finamente
  • Métricas comunes de evaluación para modelos de lenguaje
  • Optimización del rendimiento del modelo después del ajuste y solución de problemas

Implementación y Escalado de Modelos Ajustados Fino

  • Prácticas recomendadas para implementar LLMs cuantificados en entornos de producción
  • Escalar la implementación para manejar solicitudes en tiempo real
  • Herramientas y marcos para la implementación y monitoreo del modelo

Casos Reales Use Case y Estudios de Caso

  • Estudio de caso: Ajuste fino de LLMs para soporte al cliente y tareas NLP
  • Ejemplos de ajuste fino de LLMs en diversas industrias como la salud, finanzas y comercio electrónico
  • Lecciones aprendidas de implementaciones reales de modelos basados en QLoRA

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de los fundamentos del aprendizaje automático y las redes neuronales
  • Experiencia en el ajuste fino de modelos y el aprendizaje por transferencia
  • Familiaridad con los grandes modelos de lenguaje (LLMs) y los marcos de aprendizaje profundo (por ejemplo, PyTorch, TensorFlow)

Publlico objetivo

  • Ingenieros de aprendizaje automático
  • Desarrolladores de IA
  • Científicos de datos
 14 Horas

Número de participantes


Precio por Participante​

Próximos cursos

Categorías Relacionadas