PyTorch项目源码学习（1）

PyTorch

PyTorch是一个开源的深度学习框架，项目地址 https://github.com/pytorch/pytorch 在学术工作中的使用频率较高。其主体由C++开发，PyTorch是Torch的Python调用版本。学习PyTorch项目源代码的目的在于学习其中的实现方法与技巧，增加训练优化经验以及丰富设计思路。

资料整理

目前网上相关的资料较少（或者说信息空间大都被Pytorch应用相关文章挤占），目前主要进行相关研究文章的搜集整合，对项目进行自上而下的学习

前人文章

腾讯工程师整理
https://zhuanlan.zhihu.com/p/598044604

知乎用户整理
https://www.zhihu.com/column/c_1556947351318720512

简书用户整理
https://www.jianshu.com/p/e3bf5f4dfd93

推理框架原理文章
https://zhuanlan.zhihu.com/p/654499244

官方相关资料

设计思想
https://pytorch.org/docs/master/community/design.html

项目贡献者Guide
https://pytorch.org/docs/master/community/contribution_guide.html

官方文档
https://pytorch.org/docs/stable/index.html

官方目录介绍
https://github.com/pytorch/pytorch/blob/main/CONTRIBUTING.md#codebase-structure

原理相关图书

鱼书深度学习两本，斋藤康毅著
深度学习入门：基于Python的理论与实现
深度学习入门2：自制框架

国内框架原理图书
用Python实现深度学习框架 张觉非 陈震 著

相关工具

pybind 将c++与python链接 https://github.com/pybind/pybind11

CUDA 并行编程 https://docs.nvidia.com/cudnn/index.html