共计 27 篇文章

---

2025

06-28

【Picotron-Tutorial】上下文并行

06-24

【Picotron-Tutorial】流水线并行

06-14

【Picotron-Tutorial】数据并行

06-07

【Picotron-Tutorial】Tensor并行

06-01

深度学习中反向传播及优化器使用详解

05-25

Pytorch torch.distributed 及NCCL初探

05-10

GPU架构概览

05-04

【从零构建大模型】四、对模型进行无监督训练

05-03

【从零构建大模型】三、从零实现一个 GPT 模型以生成文本

05-02

【从零构建大模型】二、编码Attention机制