第 2 周 · 深度学习基本原理实践(四个实战)

这是《深度学习基本原理》课程第 2 周的四项实践作业的完整实现, 包含 训练代码、训练好的模型权重、结果图表、指标数据和实验报告。 全部代码逐行还原自课件 第2周-深度学习基本原理实践.pptx, 并在 NVIDIA RTX 4060 + PyTorch 2.5.1 上真实训练、验证通过。

四个实战

# 实战 模型 任务 参数量 测试集准确率
1 函数拟合 MLP(沙漏结构 1→128→256→128→1) 回归 66,305 MSE 0.0022
2 MNIST 手写数字识别 MLP(784→64→10) 10 分类 50,890 95.83%
3 MNIST 手写数字识别 CNN(2 层卷积 + 2 层池化) 10 分类 431,080 98.98%
4 MNIST 手写数字识别 LSTM(28 步序列) 10 分类 24,714 96.18%
4 MNIST 手写数字识别 GRU(28 步序列) 10 分类 18,698 96.06%

MNIST 三个模型均只训练 3 个 epoch(与课件一致),使用 Adam(lr=1e-3)、batch_size=64。

结果图表

函数拟合 四模型对比
function fitting comparison
MLP 训练曲线 CNN 训练曲线 LSTM 训练曲线
mlp cnn lstm

仓库结构

├── README.md                  # 本文件(Model Card)
├── 实验报告.md                 # 实验报告(目的/方法/结果/分析/结论)
├── 学习指引-四个实战.md         # 逐页讲解:原理、代码解读、踩坑速查、延伸练习
├── code/
│   ├── env_check.py            # 环境自检
│   ├── 01_function_fitting.py  # 实战一:函数拟合
│   ├── mnist_common.py         # 数据管线 + 通用训练循环(实战二三四复用)
│   ├── 02_mlp.py               # 实战二:MLP
│   ├── 03_cnn.py               # 实战三:CNN
│   ├── 04_lstm_gru.py          # 实战四:LSTM + GRU
│   ├── 05_compare.py           # 四模型对比
│   ├── 06_load_weights_demo.py # 加载权重并复验准确率
│   └── run_all.ps1             # 一键全跑
├── weights/                    # 模型权重(state_dict)
│   ├── 01_function_fitting_mlp.pt
│   ├── 02_mlp.pt
│   ├── 03_cnn.pt
│   ├── 04_lstm.pt
│   └── 04_gru.pt
└── results/                    # 结果图 (png) + 指标 (json)

如何使用这些权重

权重是 state_dict 格式,需要先实例化对应的模型类,再 load_state_dict。 注意 code/ 下的脚本文件名以数字开头,不能直接 import,需用 importlib:

import importlib.util, torch
import sys
sys.path.insert(0, "code")

spec = importlib.util.spec_from_file_location("m", "code/02_mlp.py")
m = importlib.util.module_from_spec(spec)
spec.loader.exec_module(m)

model = m.MNISTMLP()
model.load_state_dict(torch.load("weights/02_mlp.pt", map_location="cpu"))
model.eval()

更简单的方式是直接跑复验脚本,它会加载全部 5 个权重并重新计算准确率:

python code/06_load_weights_demo.py

模型结构速查

实战一 · 函数拟合(输入 1 维,输出 1 维)

Linear(1,128) → ReLU → Linear(128,256) → ReLU → Linear(256,128) → ReLU → Linear(128,1)

实战二 · MLP(784 → 10)

Linear(784,64) → ReLU → Linear(64,10)

实战三 · CNN(28×28 → 10)

Conv2d(1,20,5) → ReLU → MaxPool(2)      # 28→24→12
Conv2d(20,50,5) → ReLU → MaxPool(2)     # 12→8→4
Flatten → Linear(800,500) → ReLU → Linear(500,10)

实战四 · LSTM / GRU(28 步序列,每步 28 维 → 10)

view(B,28,28) → LSTM(hidden=64, batch_first=True) → out[:,-1,:] → Linear(64,10)

复现方式

# 环境:Python 3.9, PyTorch 2.5.1 (CUDA 11.8), numpy, matplotlib, requests
pip install torch torchvision numpy matplotlib requests

cd code
python 01_function_fitting.py
python 02_mlp.py
python 03_cnn.py
python 04_lstm_gru.py
python 05_compare.py

数据集 mnist.pkl.gz(50,000 训练 / 10,000 验证 / 10,000 测试) 会在首次运行时自动下载到 data/mnist/,脚本内置了镜像回退地址。 随机种子已固定(seed=42),结果可复现。

主要结论

  1. 网络结构要匹配数据形态:CNN 保留了二维空间结构,3 个 epoch 就把 MNIST 错误率从 4.17%(MLP)压到 1.02%。
  2. 参数量不是决定性因素:GRU 只有 MLP 的 37% 参数,准确率反而更高。
  3. 训练轮数应由验证集决定:CNN 第 2→3 轮验证损失仅改善 0.0005,已进入饱和区。

说明

  • 本项目为课程实践作业,代码基于课件中的教学示例整理、补全并验证。
  • MNIST 数据集版权归原作者(LeCun et al.)所有。
Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support