Vùng Gốc4/4 đã ra mắt
Nơi mọi thứ bắt đầu: mỗi từ là một mũi tên, mỗi phép tính là một cách bẻ cong không gian.
Vùng Xuôi Dòng3/12 đã ra mắt
Theo chân một câu chữ đi xuôi qua model, từ lúc bị cắt thành mảnh đến khi đoán ra từ tiếp theo.
- 05Tokenization & BPE — Từ chữ thành số Miễn phí
- 06Embedding — Bầu trời của từ Miễn phí
- 07Positional Encoding — Thứ tự của từ Miễn phí
- 08Q, K, V — Bộ ba của Attention Xem sớm 10.000đ
- 09Scaled Dot-Product Attention — Công thức cốt lõi20:00 thứ Sáu, 9/10
- 10Multi-Head Attention & Causal Masking20:00 thứ Sáu, 16/10
- 11Neuron & Activation — Vì sao cần phi tuyến20:00 thứ Sáu, 23/10
- 12Feed-Forward Network & LayerNorm20:00 thứ Sáu, 30/10
- 13Residual Connection & Transformer Block hoàn chỉnh20:00 thứ Sáu, 6/11
- 14Language Modeling — Đoán từ tiếp theo20:00 thứ Sáu, 13/11
- 15Autoregressive Generation — AI viết văn20:00 thứ Sáu, 20/11
- 16Temperature, Top-k, Top-p — Nghệ thuật chọn từ20:00 thứ Sáu, 27/11
Vùng Ngược Dòng0/8 đã ra mắt
Quay ngược con đường vừa đi: đo model sai bao nhiêu, rồi lần theo con dốc để sửa từng con số.
- 17Entropy & Cross-Entropy20:00 thứ Sáu, 4/12
- 18KL Divergence & Perplexity20:00 thứ Sáu, 11/12
- 19Đạo hàm & Chain Rule20:00 thứ Sáu, 18/12
- 20Gradient — Hướng đi của AI20:00 thứ Sáu, 25/12
- 21Backpropagation — AI học từ sai lầm20:00 thứ Sáu, 1/1
- 22Gradient Descent & Learning Rate20:00 thứ Sáu, 8/1
- 23SGD, Momentum & Adam20:00 thứ Sáu, 15/1
- 24Vanishing / Exploding Gradient20:00 thứ Sáu, 22/1
Vùng Văn Minh0/9 đã ra mắt
Nơi một model biết đoán chữ trở thành trợ lý: biết nghe lời, biết suy nghĩ, chạy được trên máy bạn.
- 25Fine-tuning & SFT20:00 thứ Sáu, 29/1
- 26RLHF & DPO — Dạy AI "ngoan"20:00 thứ Sáu, 5/2
- 27Reasoning — AI biết "suy nghĩ"20:00 thứ Sáu, 12/2
- 28LoRA — Fine-tune tiết kiệm20:00 thứ Sáu, 19/2
- 29Quantization — Chạy LLM trên laptop20:00 thứ Sáu, 26/2
- 30KV Cache & Context dài20:00 thứ Sáu, 5/3
- 31Transformer hiện đại — từ GPT-3 đến 202620:00 thứ Sáu, 12/3
- 32Scaling Laws — To hơn là giỏi hơn?20:00 thứ Sáu, 19/3
- 33Tổng kết — Từ Số 0 Đến Transformer20:00 thứ Sáu, 26/3