第 2 周 · 深度学习基本原理实践(四个实战)
这是《深度学习基本原理》课程第 2 周的四项实践作业的完整实现,
包含 训练代码、训练好的模型权重、结果图表、指标数据和实验报告。
全部代码逐行还原自课件 第2周-深度学习基本原理实践.pptx,
并在 NVIDIA RTX 4060 + PyTorch 2.5.1 上真实训练、验证通过。
四个实战
| # | 实战 | 模型 | 任务 | 参数量 | 测试集准确率 |
|---|---|---|---|---|---|
| 1 | 函数拟合 | MLP(沙漏结构 1→128→256→128→1) | 回归 | 66,305 | MSE 0.0022 |
| 2 | MNIST 手写数字识别 | MLP(784→64→10) | 10 分类 | 50,890 | 95.83% |
| 3 | MNIST 手写数字识别 | CNN(2 层卷积 + 2 层池化) | 10 分类 | 431,080 | 98.98% |
| 4 | MNIST 手写数字识别 | LSTM(28 步序列) | 10 分类 | 24,714 | 96.18% |
| 4 | MNIST 手写数字识别 | GRU(28 步序列) | 10 分类 | 18,698 | 96.06% |
MNIST 三个模型均只训练 3 个 epoch(与课件一致),使用 Adam(lr=1e-3)、batch_size=64。
结果图表
仓库结构
├── README.md # 本文件(Model Card)
├── 实验报告.md # 实验报告(目的/方法/结果/分析/结论)
├── 学习指引-四个实战.md # 逐页讲解:原理、代码解读、踩坑速查、延伸练习
├── code/
│ ├── env_check.py # 环境自检
│ ├── 01_function_fitting.py # 实战一:函数拟合
│ ├── mnist_common.py # 数据管线 + 通用训练循环(实战二三四复用)
│ ├── 02_mlp.py # 实战二:MLP
│ ├── 03_cnn.py # 实战三:CNN
│ ├── 04_lstm_gru.py # 实战四:LSTM + GRU
│ ├── 05_compare.py # 四模型对比
│ ├── 06_load_weights_demo.py # 加载权重并复验准确率
│ └── run_all.ps1 # 一键全跑
├── weights/ # 模型权重(state_dict)
│ ├── 01_function_fitting_mlp.pt
│ ├── 02_mlp.pt
│ ├── 03_cnn.pt
│ ├── 04_lstm.pt
│ └── 04_gru.pt
└── results/ # 结果图 (png) + 指标 (json)
如何使用这些权重
权重是 state_dict 格式,需要先实例化对应的模型类,再 load_state_dict。
注意 code/ 下的脚本文件名以数字开头,不能直接 import,需用 importlib:
import importlib.util, torch
import sys
sys.path.insert(0, "code")
spec = importlib.util.spec_from_file_location("m", "code/02_mlp.py")
m = importlib.util.module_from_spec(spec)
spec.loader.exec_module(m)
model = m.MNISTMLP()
model.load_state_dict(torch.load("weights/02_mlp.pt", map_location="cpu"))
model.eval()
更简单的方式是直接跑复验脚本,它会加载全部 5 个权重并重新计算准确率:
python code/06_load_weights_demo.py
模型结构速查
实战一 · 函数拟合(输入 1 维,输出 1 维)
Linear(1,128) → ReLU → Linear(128,256) → ReLU → Linear(256,128) → ReLU → Linear(128,1)
实战二 · MLP(784 → 10)
Linear(784,64) → ReLU → Linear(64,10)
实战三 · CNN(28×28 → 10)
Conv2d(1,20,5) → ReLU → MaxPool(2) # 28→24→12
Conv2d(20,50,5) → ReLU → MaxPool(2) # 12→8→4
Flatten → Linear(800,500) → ReLU → Linear(500,10)
实战四 · LSTM / GRU(28 步序列,每步 28 维 → 10)
view(B,28,28) → LSTM(hidden=64, batch_first=True) → out[:,-1,:] → Linear(64,10)
复现方式
# 环境:Python 3.9, PyTorch 2.5.1 (CUDA 11.8), numpy, matplotlib, requests
pip install torch torchvision numpy matplotlib requests
cd code
python 01_function_fitting.py
python 02_mlp.py
python 03_cnn.py
python 04_lstm_gru.py
python 05_compare.py
数据集 mnist.pkl.gz(50,000 训练 / 10,000 验证 / 10,000 测试)
会在首次运行时自动下载到 data/mnist/,脚本内置了镜像回退地址。
随机种子已固定(seed=42),结果可复现。
主要结论
- 网络结构要匹配数据形态:CNN 保留了二维空间结构,3 个 epoch 就把 MNIST 错误率从 4.17%(MLP)压到 1.02%。
- 参数量不是决定性因素:GRU 只有 MLP 的 37% 参数,准确率反而更高。
- 训练轮数应由验证集决定:CNN 第 2→3 轮验证损失仅改善 0.0005,已进入饱和区。
说明
- 本项目为课程实践作业,代码基于课件中的教学示例整理、补全并验证。
- MNIST 数据集版权归原作者(LeCun et al.)所有。




