Ir al contenido

LLMs: Fine-tuning y Alineación

40 horasAvanzado5 módulos

3 de 5 módulos con programa publicado

0 de 5 módulos grabados

Programa

Concentra el núcleo avanzado del tronco común — la arquitectura Transformer con atención implementada desde cero, fine-tuning y transfer learning con LoRA/QLoRA, y optimización del entrenamiento con mixed precision y schedulers — y agrega los dos módulos de nivel 300 del área de NLP: fine-tuning de LLMs en la práctica y alineación (RLHF/DPO).

Módulos de la formación

Los mismos objetos del plan de estudios completo. Un módulo abierto desde cualquier formación que lo contenga es el mismo módulo, con el mismo programa y el mismo estado.

  • CORE-301Programa publicado

    La arquitectura Transformer

    Contenido
    Atención, embeddings, codificación posicional, encoder/decoder
    Práctica
    Implementar atención desde cero y visualizarla

    precio estimado0 de 1 módulo publicado

  • CORE-302Programa publicado

    Fine-tuning y transfer learning

    Contenido
    LoRA/QLoRA, congelamiento de capas, datasets
    Práctica
    Hacer fine-tuning de un modelo open-source

    precio estimado0 de 1 módulo publicado

  • CORE-303Programa publicado

    Optimización del entrenamiento

    Contenido
    Mixed precision, schedulers, fundamentos de entrenamiento distribuido
    Práctica
    Acelerar un entrenamiento en 3×

    precio estimado0 de 1 módulo publicado

  • NLP-301Programa publicado

    Fine-tuning de LLMs en la práctica

    Contenido detallado aún no escrito

  • NLP-302Programa publicado

    Alineación (RLHF/DPO — fundamentos)

    Contenido detallado aún no escrito

No todo cabe en 40 horas. El estado del arte, el entrenamiento distribuido, la interpretabilidad, el edge y los cinco proyectos integradores existen solo dentro de las rutas completas: Rutas