深度学习框架解读

PyTorch

1. 一文读懂 PyTorch 显存管理机制

2. PyTorch显存机制分析

3. 一文搞懂 PyTorch 内部机制

4. PyTorch显存机制分析——显存碎片问题

1. PyTorch 源码解读之 torch.autograd：梯度计算详解

2. PyTorch 源码解读之 BN & SyncBN：BN 与 多卡同步 BN 详解

3. PyTorch 源码解读之 torch.utils.data：解析数据处理全流程

4. PyTorch 源码解读之 nn.Module：核心网络模块接口详解

5. PyTorch 源码解读之 DP & DDP：模型并行和分布式训练解析

6. PyTorch 源码解读之 torch.optim：优化算法接口详解

7. PyTorch 源码解读之 torch.cuda.amp: 自动混合精度详解

8. PyTorch 源码解读之 cpp_extension：揭秘 C++/CUDA 算子实现和调用全流程

9. PyTorch 源码解读之即时编译篇