基于pytorch实现的d2l第二版代码的个人批注以及练习解答

本仓库是基于pytorch实现的d2l第二版JupyterNotebook的个人批注以及练习解答，并尝试加入自己的一些理解或者拓展，欢迎一起交流学习！

安装d2l库

CPU版本

1. 官网下载Anaconda;
2. 打开Anaconda Prompt，在命令界面输入：

conda create --name d2l python=3.8 -y

d2l是环境名称，3.8是python版本，二者均可以随便改，推荐不改。

3. 激活创建的d2l环境，输入：

conda activate d2l

4. 安装需要的库，输入：

pip install d2l torch torchvison

GPU版本

安装GPU版本，前3步不变，在第4步我们要安装torch的cuda版本。（请自行搜索下载与NVIDIA显卡版本对应的CUDA和CUDNN）

5. pytorch官网找到下载命令，在命令界面输入，如Win11+CUDA11.8：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

d2l库补丁

由于d2l各个版本的torch实现都缺少部分函数与类的定义，本仓库以1.0.3版本的d2l库torch实现为基础进行修改与完善。

请将本仓库根目录下的torch.py文件复制到上一步创建的d2l环境中的d2l库中，替换掉库中的torch.py，并删除本仓库根目录下的torch.py文件。

d2l环境中的d2l库目录如下所示：

C:\Users\username\anaconda3\envs\d2l\Lib\site-packages\d2l

请将username修改为你的用户名，第一个d2l修改为你为d2l环境命名的环境名称。

目录

结构： 视频序号: 代码章节

• 03 安装: chapter_installation\index.ipynb

• 04 数据操作+数据预处理: chapter_preliminaries\ndarray.ipynb + chapter_preliminaries\pandas.ipynb

• 05 线性代数: chapter_preliminaries\linear-algebra.ipynb

• 06 矩阵计算: chapter_preliminaries\calculus.ipynb

• 07 自动求导: chapter_preliminaries\autograd.ipynb

• 08 线性回归 + 基础优化算法: chapter_linear-networks\linear-regression.ipynb + chapter_linear-networks\linear-regression-scratch.ipynb + chapter_linear-networks\linear-regression-concise.ipynb

• 09 Softmax 回归 + 损失函数 + 图片分类数据集: chapter_linear-networks\softmax-regression.ipynb + chapter_linear-networks\softmax-regression-scratch.ipynb + chapter_linear-networks\softmax-regression-concise.ipynb + chapter_linear-networks\image-classification-dataset.ipynb

• 10 多层感知机: chapter_multilayer-perceptrons\mlp.ipynb + chapter_multilayer-perceptrons\mlp-scratch.ipynb + chapter_multilayer-perceptrons\mlp-concise.ipynb

• 11 模型选择 + 过拟合和欠拟合: chapter_multilayer-perceptrons\underfit-overfit.ipynb

• 12 权重衰退: chapter_multilayer-perceptrons\weight-decay.ipynb

• 13 丢弃法: chapter_multilayer-perceptrons\dropout.ipynb

• 14 数值稳定性 + 模型初始化和激活函数: chapter_multilayer-perceptrons\numerical-stability-and-init.ipynb

• 15 实战:Kaggle房价预测 + 课程竞赛:加州2020年房价预测: chapter_multilayer-perceptrons\kaggle-house-price.ipynb

• 前向传播、反向传播、计算图：chapter_multilayer-perceptrons\backprop.ipynb

• 16 Pytorch 神经网络基础: chapter_deep-learning-computation\model-construction.ipynb

• 17 使用和购买 GPU: chapter_deep-learning-computation\use-gpu.ipynb

• 18 预测房价竟赛总结: chapter_multilayer-perceptrons\kaggle-house-price.ipynb

• 19 卷积层: chapter_convolutional-neural-networks\conv-layer.ipynb

• 20 卷积层里的填充和步幅: chapter_convolutional-neural-networks\padding-and-strides.ipynb

• 21 卷积层里的多输入多输出通道: chapter_convolutional-neural-networks\channels.ipynb

• 22 池化层: chapter_convolutional-neural-networks\pooling.ipynb

• 23 经典卷积神经网络 LeNet: chapter_convolutional-neural-networks\lenet.ipynb

• 24 深度卷积神经网络 AlexNet: chapter_convolutional-modern\alexnet.ipynb

• 25 使用块的网络 VGG: chapter_convolutional-modern\vgg.ipynb

• 26 网络中的网络 NiN: chapter_convolutional-modern\nin.ipynb

• 27 含并行连结的网络 GoogLeNe/Inception V3: chapter_convolutional-modern\googlenet.ipynb

• 28 批量归一化: chapter_convolutional-modern\batch-norm.ipynb

• 29 残差网络 ResNet: chapter_convolutional-modern\resnet.ipynb

• 稠密连接网络 DenseNet: chapter_convolutional-modern\densenet.ipynb

• 30 第二部分完结竞赛:图片分类: 叶片分类

• 31 深度学习硬件:CPU 和 GPU: chapter_computational-performance\hardware.ipynb

• 32 深度学习硬件:TPU和其他: chapter_computational-performance\hardware.ipynb

• 33 单机多卡并行: chapter_computational-performance\multiple-gpus.ipynb

• 34 多GPU训练实现: chapter_computational-performance\multiple-gpus-concise.ipynb

• 35 分布式训练: chapter_computational-performance\auto-parallelism.ipynb

• 36 数据增广: chapter_computer-vision\image-augmentation.ipynb

相关资源

• 教材：《动手学深度学习》第二版
• B站视频链接：【完结】动手学深度学习 PyTorch版
• 官方代码仓库：github.com/d2l-ai/d2l-zh
• 讨论区：discuss.d2l.ai/c/chinese-version/