LLMs: Fine-tuning e Alinhamento

40 horasAvançado5 módulos

3 de 5 módulos com ementa publicada

0 de 5 módulos gravados

Ementa

Concentra o núcleo avançado do tronco comum — arquitetura Transformer com atenção implementada do zero, fine-tuning e transfer learning com LoRA/QLoRA, e otimização de treino com mixed precision e schedulers — e acrescenta os dois módulos de nível 300 da área de NLP: fine-tuning de LLMs na prática e alinhamento (RLHF/DPO).

Módulos da formação

Os mesmos objetos do currículo completo. Um módulo aberto a partir de qualquer formação que o contenha é o mesmo módulo, com a mesma ementa e o mesmo estado.

Código	Módulo	Conteúdo	Prática	Estado	Preço
CORE-301	Arquitetura Transformer	Atenção, embeddings, posicional, encoder/decoder	Implementar atenção do zero + visualizá-la	Ementa publicada	R$ 240US$ 80MX$ 1.000valor estimado0 de 1 módulo publicado
CORE-302	Fine-tuning e transfer learning	LoRA/QLoRA, congelamento de camadas, datasets	Fine-tunar um modelo open-source	Ementa publicada	R$ 240US$ 80MX$ 1.000valor estimado0 de 1 módulo publicado
CORE-303	Otimização de treino	Mixed precision, schedulers, distributed basics	Acelerar um treino em 3×	Ementa publicada	R$ 240US$ 80MX$ 1.000valor estimado0 de 1 módulo publicado
NLP-301	Fine-tuning de LLMs na prática	Ementa detalhada ainda não escrita	—	Ementa publicada
NLP-302	Alinhamento (RLHF/DPO — noções)	Ementa detalhada ainda não escrita	—	Ementa publicada

CORE-301Ementa publicada
Arquitetura Transformer
Conteúdo
Atenção, embeddings, posicional, encoder/decoder
Prática
Implementar atenção do zero + visualizá-la
R$ 240US$ 80MX$ 1.000valor estimado0 de 1 módulo publicado
CORE-302Ementa publicada
Fine-tuning e transfer learning
Conteúdo
LoRA/QLoRA, congelamento de camadas, datasets
Prática
Fine-tunar um modelo open-source
R$ 240US$ 80MX$ 1.000valor estimado0 de 1 módulo publicado
CORE-303Ementa publicada
Otimização de treino
Conteúdo
Mixed precision, schedulers, distributed basics
Prática
Acelerar um treino em 3×
R$ 240US$ 80MX$ 1.000valor estimado0 de 1 módulo publicado
NLP-301Ementa publicada
Fine-tuning de LLMs na prática
Ementa detalhada ainda não escrita
NLP-302Ementa publicada
Alinhamento (RLHF/DPO — noções)
Ementa detalhada ainda não escrita

Nem tudo cabe em 40 horas. Estado da arte, treino distribuído, interpretabilidade, edge e os cinco projetos integradores existem apenas dentro das trilhas completas: Trilhas