Word Embeddings e Representação de Texto
Do One-Hot ao embedding contextual: por que TF-IDF pondera, o que o Word2Vec aprende, e a diferença entre vetor estático e vetor por contexto.
Curso
AI Programming with Python
Curso completo de programação em Python aplicada a IA: fundamentos da linguagem, NumPy, pandas, Matplotlib, álgebra linear, redes neurais e PyTorch.
31 aulas
Mecanismo de Atenção e Arquitetura Transformer
Query, Key e Value, o divisor que impede o softmax de saturar, o encoding que injeta ordem, e as três famílias que saíram do Transformer.
LLMs — GPT, BERT e Como Funcionam
BERT lê nos dois sentidos e entende; GPT lê num só e gera. O que o pré-treinamento deixa guardado, e os três graus de adaptação até o LoRA.
Hugging Face — Usando Modelos Pré-treinados
Pipelines, tokenizers e as classes Auto do Hugging Face: as estratégias de decodificação, o zero-shot com MNLI e por que nunca tokenizar à mão.
Fine-tuning de Modelos de Linguagem
Do fine-tuning completo ao QLoRA: por que a inicialização B=0 torna o LoRA seguro, e o Instruction Tuning que faz o modelo obedecer.
Projeto Final — Aplicação NLP Completa
O projeto que junta o curso: esquema antes do código, preprocessador salvo com o modelo, métricas operacionais e o retreino depois do deploy.
Aula Bônus — Onde ir a partir daqui
Se o projeto final acendeu sua curiosidade para o lado de geração e linguagem: