基于之前的博客 pytorch入门 - AlexNet神经网络,并借助Kaggle 的 Dogs vs Cats Redux 数据集,实现一个基于 AlexNet 的二分类模型识别猫与狗。
完整流程涵盖数据准备、归一化、模型定义、训练增强、验证并可视化结果。
一、数据集准备与预处理
- import os
- import shutil
- def split_data(ROOT_TRAIN):
- cat_dir = os.path.join(ROOT_TRAIN, "cat")
- dog_dir = os.path.join(ROOT_TRAIN, "dog")
- os.makedirs(cat_dir, exist_ok=True)
- os.makedirs(dog_dir, exist_ok=True)
-
- for filename in os.listdir(ROOT_TRAIN):
- if filename.startswith("cat") and filename.endswith(".jpg"):
- shutil.move(os.path.join(ROOT_TRAIN, filename),
- os.path.join(cat_dir, filename))
- elif filename.startswith("dog") and filename.endswith(".jpg"):
- shutil.move(os.path.join(ROOT_TRAIN, filename),
- os.path.join(dog_dir, filename))
复制代码 优化原因:
分类任务需明确标签与数据的对应关系。通过创建cat/dog子目录并移动图片,可直接利用PyTorch的ImageFolder自动生成标签,避免手动标注错误。
二、数据归一化参数计算
- def compute_normalization_params(dataset_path):
- transform = transforms.Compose([
- transforms.Resize((227, 227)),
- transforms.ToTensor()
- ])
- dataset = ImageFolder(dataset_path, transform=transform)
- loader = DataLoader(dataset, batch_size=32, num_workers=4, shuffle=False)
-
- # 计算各通道均值和标准差
- mean = 0.0
- std = 0.0
- for data, _ in loader:
- batch_samples = data.size(0)
- data = data.view(batch_samples, data.size(1), -1)
- mean += data.mean(2).sum(0)
- std += data.std(2).sum(0)
- return mean / len(dataset), std / len(dataset)
复制代码 关键点:
- 输入尺寸统一:AlexNet要求固定输入尺寸227×227,需提前调整
- 通道级归一化:对RGB三通道分别计算均值和标准差,消除光照差异影响,加速模型收敛
- 离线计算:避免在训练时实时计算,提升数据加载效率
三、AlexNet模型针对性修改
- class AlexNet(nn.Module):
- def __init__(self):
- super().__init__()
- # 修改1:输入通道调整为3 (RGB)
- self.conv1 = nn.Conv2d(3, 96, kernel_size=11, stride=4)
- # ... (中间层省略)
- # 修改2:输出层调整为2分类
- self.fc3 = nn.Linear(4096, 2)
-
- # 修改3:降低Dropout比例
- self.dropout = nn.Dropout(0.2) # 原论文为0.5
复制代码 优化逻辑:
- 输入通道适配:原始AlexNet针对ImageNet的1000类设计,此处调整为猫狗二分类,需修改输出层维度为2
- 降低过拟合风险:
- 猫狗数据集(25k张)远小于ImageNet(1400万张)
- 降低Dropout比例(0.5→0.2)可保留更多特征信息,避免模型欠拟合
- 权重初始化:采用Kaiming初始化,适配ReLU激活函数特性,缓解梯度消失
四、数据增强策略
- train_transform = transforms.Compose([
- transforms.RandomHorizontalFlip(p=0.5),
- transforms.RandomRotation(10),
- transforms.RandomResizedCrop(227, scale=(0.8, 1.0)),
- transforms.ColorJitter(brightness=0.2, contrast=0.2, saturation=0.2),
- transforms.ToTensor(),
- transforms.Normalize(mean=[0.488, 0.455, 0.417],
- std=[0.226, 0.221, 0.221])
- ])
复制代码 增强目的:
- 提升泛化能力:通过旋转、裁剪、色彩扰动模拟真实场景的多样性,防止模型记忆固定模式
- 克服数据局限:小数据集易导致过拟合,增强后等效扩大数据规模
- 对齐测试环境:测试阶段采用相同预处理,保证输入分布一致性
五、训练过程优化
- # 1. 学习率调整
- optimizer = optim.Adam(model.parameters(), lr=1e-4) # 原常用值0.001
- # 2. 训练-验证集拆分
- train_data, val_data = random_split(dataset, [0.8, 0.2])
- # 3. 早停机制
- if val_acc > best_acc:
- best_model_wts = copy.deepcopy(model.state_dict())
复制代码 关键技术点:
- 低学习率策略:
- 预训练模型特征已较完备,降低学习率(1e-4)避免破坏已有特征
- 微调阶段需精细调整参数,高学习率易导致震荡
- 验证集独立划分:
- 20%数据作为验证集,实时监控模型泛化能力
- 避免测试集参与训练,保证评估客观性
- 混合精度训练(可选):
使用torch.cuda.amp自动混合精度,提升训练速度30%+(需GPU支持)
关键优化总结
优化点原始值调整值作用输入通道1 (灰度)3 (RGB)适配彩色图像输出维度10002二分类需求Dropout率0.50.2防欠拟合学习率0.0010.0001稳定微调数据增强无5种变换提升泛化性
来源:程序园用户自行投稿发布,如果侵权,请联系站长删除
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作! |