简介面向深度学习图像分类任务这份乳腺癌症图像分类数据集提供了完整的二分类实验数据适合计算机视觉方向的学生、科研人员及算法学习者使用。数据按目录规范存放训练集约480张、验证集约140张、测试集约70张类别定义一目了然可直接用于卷积神经网络、迁移学习等模型的训练、验证与评估。资源共692个文件包含689张jpg图像、1个python脚本、1张png预览图及1个json类别配置文件python脚本便于完成数据读取与批次划分json文件提供准确的类别标签映射png可快速预览图像样例压缩包整体仅17.85MB轻量易用。目前已有286人学习使用。获取后即可得到整理好的训练集、验证集与测试集配合辅助脚本可省去数据清洗时间快速搭建乳腺癌症图像二分类实验流程适用于课程设计、论文复现或算法对比。1. 乳腺癌症图像分类先别急着训模型把数据集的口径搞明白再动手“深度学习数据集乳腺癌症图像分类”这个标题落到工程上其实是一道标准的图像二分类问题输入乳腺X光片、超声图或病理切片输出良性/恶性进阶可以做到BI-RADS分级。它难的地方从来不是“深度学习”四个字而是数据集怎么挑、标签怎么信、验证指标怎么定——同一个模型在论文里能报AUC 0.95换到临床场景却可能漏掉最该被拦下来的那个恶性病例。这篇笔记就把这条链路完整拆开公开数据源怎么选、预处理管线怎么写、ResNet基线怎么微调、哪些坑会让你白跑一周以及最后怎么用一份医生能看懂的验证报告收尾。适合正在复现医学影像分类项目、准备投稿或做毕业设计的从业者也适合刚接触深度学习、手里只有几千张图的入门工程师。2. 数据集先行三类影像形态、四个公开数据源与选型依据2.1 影像形态决定任务边界全图、ROI 还是 patch“乳腺癌症图像分类”不是一个统一的任务拿到影像先得确认你到底在分什么东西。乳腺影像有好几种来源对应的分类粒度完全不同影像形态常见来源分类对象标签形态典型公开数据集全图X光钼靶体检筛查中心整张影像有无恶性病变 / BI-RADSCBIS-DDSM、MIAS局部ROI肿块或钙化区域检测框裁出单个病灶良 / 恶性CBIS-DDSM裁剪版病理切片patch活检组织扫描每张patch图像癌 / 非癌部分带分级BreaKHis超声图像门诊检查设备整帧或病灶框良 / 恶性各类超声公开集全图分类最简单直接把一张乳腺X光整图送进去输出概率。缺点是早期病灶可能只占几个像素模型很容易被周围大面积的正常腺体带偏敏感度做不上去。ROI分类等于先把病灶位置切出来再分良恶性难度降了一截但你需要一个前置的检测或分割模型来提供ROI。病理切片patch分类则是把全切片切成几百张小块逐块判断最后聚合出整片结论训练最容易推理时要做多patch融合。我一般建议第一次跑通的人从病理patch或ROI入手而不是一上来就做全图分类。原因很实在全图分类对硬件和模型容量要求更高而且指标一旦低了你很难判断是模型问题还是病灶太小定位不上。先在一个“边界清楚”的子任务上把管线跑通再往全图扩展是性价比最高的路线。2.2 公开数据源怎么挑CBIS-DDSM、MIAS 与 BreaKHis 的差异公开乳腺影像数据集常见的有几个但彼此差别非常大。先说最常见的CBIS-DDSM它是DDSM的整理版提供裁剪版和全图版两类数据裁剪版就是现成的ROI分类任务标签质量在公开集里算很规整的下载需要走学术申请流程审核通过后在网站上凭邮箱获取。MIAS是老牌数据集规模小、结构简单图像数量只有几百到一千张级别作为练手验证管线可以想拿来发文章基本不够用。INbreast也来自欧洲带BI-RADS分级标注适合做多分类进阶但同样规模有限。BreaKHis是病理组织切片图像按不同放大倍率提供patch任务就是良恶性二分类不需要检测前置是入门最友好的选择。这些数据集放到自然图像领域都属于“袖珍型”——几千到一万张左右远不能跟ImageNet、OpenImages比规模。选型时我按三条原则走第一条模态必须和你最终要落地的场景一致做钼靶筛查就选CBIS-DDSM做病理AI就选BreaKHis不要拿病理模型去证明X光效果第二条优先选有官方划分或明确病人编号的数据集方便做按病人切分防止数据泄漏第三条先小后大先用MIAS这类集把训练脚本和评估脚本调通再换大数据集出正式指标。申请下载医学数据时要填学术用途这是数据授权的常规流程不是说你在跟平台打交道而是原作者在用协议约束数据不被滥用。还有一个经常被忽略的点公开数据集的“金标准”并不完美。病理切片标签来自医生标注不同医生对同一张切片的判读存在分歧尤其是不典型增生这类交界性病变。做数据清洗时别盲目相信文件夹名字留出时间抽查一部分训练样本把可疑的挑出来人工复核这一步在后面避坑章还会细说。2.3 为什么迁移学习在这里几乎是必选项很多深度学习入门教程拿CIFAR-10带着你从零搭CNN这套流程搬到乳腺影像上会直接翻车。原因很直白CIFAR-10有五万张训练图乳腺公开集通常只有几千张从零训练的CNN在这种数据量下方差极大跑三次能出三个不同的验证指标。可迁移特征又是医学图像最需要的——预训练权重里已经学会的纹理、边缘、对比度变化这些低级特征正好是钙化点和腺体边界判读的基础。近两年Transformer也杀进了图像分类但小数据集上它并不占优。ViT没有CNN那种内置的局部归纳偏置几千张图很难训出稳定结果除非你有在医学大图上预训练过的权重或者用蒸馏版轻量模型配强增强。所以我给基线模型的排序一般是ResNet系列优先ResNet18跑通ResNet50提精度EfficientNet做效率优化ViT放到最后去试。硬件上也不用被“深度学习环境配置”吓住一张消费级显卡就能跑这种规模的数据集PyTorch装好就能开工。顺带说一个经验值医学影像分类里恶性样本占比经常只有百分之十几这是常态而不是异常。选型时就要预先想好类别不平衡怎么处理否则模型训练完你得到的是一个“把所有图都判成良性、准确率还挺高”的废物。这个会在第四章给具体代码方案。3. 把原始影像变成可训练集按病人划分、CLAHE预处理与克制的增强管线3.1 按病人分组做数据集划分而不是按图片随机切拿到原始影像后的第一件事不是写模型而是先建目录、做划分。这里有一个必须守住的原则同一个病人的所有图像必须划到同一个集合里。乳腺影像经常一个病人有多张视图或几十个patch它们之间高度相关如果随机按图片切分验证集里会出现训练集的“近亲”指标虚高到让你误以为模型已经能用。先建好目录骨架data/ train/0_benign/ train/1_malignant/ val/ 0_benign/ val/ 1_malignant/ test/ 0_benign/ test/ 1_malignant/假设原始数据按raw_images/病人编号/子目录/图片.png组织文件名或路径里带有benign或malignant标记用下面这段做按病人划分import os import random import shutil from glob import glob random.seed(42) SPLIT {train: 0.70, val: 0.15, test: 0.15} SRC_DIR raw_images DST_DIR data patients [p for p in os.listdir(SRC_DIR) if os.path.isdir(os.path.join(SRC_DIR, p))] random.shuffle(patients) n_train int(len(patients) * SPLIT[train]) n_val int(len(patients) * SPLIT[val]) for idx, patient in enumerate(patients): if idx n_train: split train elif idx n_train n_val: split val else: split test for img_path in glob(os.path.join(SRC_DIR, patient, *, *.png)): label 1_malignant if malignant in img_path else 0_benign dst_dir os.path.join(DST_DIR, split, label) os.makedirs(dst_dir, exist_okTrue) shutil.copy(img_path, os.path.join(dst_dir, os.path.basename(img_path)))划分比例70/15/15是常见做法但如果总样本只有一千张我更建议换成五折交叉验证来出最终指标单留一个test集太奢侈。随机种子固定是为了可复现换一个种子指标波动大说明数据集太小这是信号而不是bug。另外注意label的判断我用了路径匹配如果你的文件名不含良恶性字样就得先维护一个病人ID到标签的映射表别靠猜。3.2 灰度影像的预处理顺序CLAHE、尺寸统一与三通道转换乳腺X光和多数病理切片是灰度图或近似灰度图。医学影像对比度普遍偏低直接丢给模型很容易让模型把注意力放在亮度分布而不是组织纹理上。我习惯先做CLAHE对比度受限的自适应直方图均衡再缩放尺寸最后复制成三通道。离线预处理脚本如下import cv2 import numpy as np from glob import glob DST preprocessed def preprocess(img_path, out_path, target_size512): # 用IMREAD_GRAYSCALE读入不管原图是彩色的还是伪彩色的都统一成灰度 img cv2.imread(img_path, cv2.IMREAD_GRAYSCALE) if img is None: return # CLAHE只在局部窗口内做对比度增强避免全局均衡把噪声一起放大 clahe cv2.createCLAHE(clipLimit2.0, tileGridSize(8, 8)) img clahe.apply(img) # 原图分辨率一般远大于512IMREAD_GRAYSCALE读入后用INTER_AREA降采样 img cv2.resize(img, (target_size, target_size), interpolationcv2.INTER_AREA) # 灰度图复制成3通道保持与ImageNet预训练输入一致 img_bgr cv2.cvtColor(img, cv2.COLOR_GRAY2BGR) cv2.imwrite(out_path, img_bgr) for img_path in glob(data/train/*/*.png): _, split, label, fname img_path.replace(\\, /).split(/) out_dir f{DST}/{split}/{label} os.makedirs(out_dir, exist_okTrue) preprocess(img_path, f{out_dir}/{fname})三个参数决定了预处理效果clipLimit2.0控制对比度增强的上限调太大会把背景噪声一起抬起来太小则增强不明显2.0 是个保守起点tileGridSize(8, 8)是局部窗口划分图像越大窗口越应该大512 输入下8x8够用target_size512是分辨率和显存的折中224会丢掉微小钙化细节而1024会让ResNet50在消费级显卡上很难训练。注意我没做归一化归一化放到训练时的 transform 里做离线只做几何和光度层面的处理这个分工后面会清楚。3.3 数据增强要“克制”别把病灶增强没了数据增强对小数据集是救命稻草但医学影像的增强策略必须比自然图像保守。ColorJitter这类色彩抖动我从来不用于乳腺影像不同医院设备的灰度/染色本来就不统一你再人为加色彩扰动模型只会更抓不住关键纹理。训练集和验证集使用两套transformfrom torchvision import transforms # 训练集轻度几何扰动 train_transform transforms.Compose([ transforms.RandomResizedCrop(size512, scale(0.8, 1.0)), transforms.RandomHorizontalFlip(p0.5), transforms.RandomRotation(degrees10, fill0), transforms.ToTensor(), transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]), ]) # 验证/测试集只做缩放和归一化 val_transform transforms.Compose([ transforms.Resize(512), transforms.CenterCrop(512), transforms.ToTensor(), transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]), ])RandomResizedCrop的scale(0.8, 1.0)是关键参数它限制裁剪最少保留原图80%面积防止把病灶主体切掉乳腺影像不是自然场景上下翻转会让CC位变成MLO位的视角方向信息全乱所以我只保留了水平翻转旋转限制在10度内超过这个角度乳头、皮肤轮廓这些解剖结构会失真。Normalize用的均值方差是ImageNet的统计量原因是迁移学习权重在ImageNet分布上预训练输入也保持同分布模型收敛最稳。提示如果离线预处理已经做过 resize在线 transform 就不要再加 Resize两处尺寸不一致会让训练图被二次缩放增加不必要的插值偏差。另外如果训练集只有几百张可以加上CutOut或RandomErasing随机遮挡一小块区域迫使模型不依赖单一纹理。但遮挡尺寸别超过原图的15%医学病灶常常就是一小块遮大了等于把标签擦掉。4. 从预训练权重到医学基线ResNet微调的训练脚本、采样策略与关键超参4.1 加载预训练模型、替换分类头与冻结策略有了可训练的图像数据接下来就是搭模型。我一般直接用torchvision加载ImageNet预训练的ResNet替换最后一层分类头再按数据集规模冻结一部分浅层。先说结论几千张医学图像这个量级全量微调ResNet50容易过拟合冻结前两个stage的特征提取器反而是常规操作。import torch import torch.nn as nn import torchvision.models as models model models.resnet50(weightsmodels.ResNet50_Weights.IMAGENET1K_V1) num_ftrs model.fc.in_features model.fc nn.Linear(num_ftrs, 2) # 二分类良性 / 恶性 # 冻结 layer1、layer2 之前的参数只让深层特征和分类头参与训练 for name, param in model.named_parameters(): if name.startswith(layer1.) or name.startswith(layer2.): param.requires_grad False冻结浅层的逻辑是ResNet的layer1学到的是边缘、纹理、斑点这类通用低级特征自然图像和医学图像在这些特征上是共享的没必要重新学而靠近分类头的layer3、layer4学的是任务相关的语义组合必须微调。如果你的训练集只有几百张可以把冻结范围扩大到layer3如果数据量上万全部解冻做完整微调效果更好。分类头输入维度直接用model.fc.in_features拿不要写死2048免得换模型时忘改。4.2 类别不平衡的双层保险WeightedRandomSampler 与损失加权恶性样本占比低是乳腺影像分类的常态不做处理的话模型会把所有输入都倾向判成良性。我见过最离谱的一次训练集准确率0.97召回率只有0.2模型等于白训。解决办法是双层保险采样器层面提高恶性样本被抽中的概率损失函数层面给恶性样本更高的权重。from torch.utils.data import DataLoader, WeightedRandomSampler from torchvision import datasets train_set datasets.ImageFolder(preprocessed/train, transformtrain_transform) labels train_set.targets # 每个类别的权重 样本数的倒数少数类样本权重更大 counts torch.bincount(torch.tensor(labels)) class_weights 1.0 / counts.float() # 对每一个样本按其类别权重赋采样概率 sample_weights class_weights[labels] sampler WeightedRandomSampler(sample_weights, num_sampleslen(labels), replacementTrue) train_loader DataLoader( train_set, batch_size16, samplersampler, num_workers4, pin_memoryTrue, ) criterion nn.CrossEntropyLoss(weightclass_weights.cuda())replacementTrue表示有放回采样少数类样本会被重复抽到虽然缓解了不平衡但也意味着同一batch可能出现许多重复图模型容易对单张图过拟合。所以在采样器已经做了加权的前提下损失权重别设太大用class_weights的原始倒数即可不要额外放大倍数。num_workers4是通用设置Windows下建议降为0或2否则Dataloader容易卡死。4.3 训练循环、差分学习率与显存不够的处理优化器我推荐AdamW而不是SGD。医学小数据集上SGD收敛慢、对学习率敏感AdamW的逐参数自适应特性让小数据微调更稳定。这里采用差分学习率分类头是新初始化的需要快一点用1e-3预训练主干已经比较成熟用1e-4慢调。optimizer torch.optim.AdamW([ {params: model.fc.parameters(), lr: 1e-3}, {params: (p for n, p in model.named_parameters() if not n.startswith(fc) and p.requires_grad), lr: 1e-4}, ], weight_decay1e-4) scheduler torch.optim.lr_scheduler.CosineAnnealingLR(optimizer, T_max30) best_auc, best_epoch 0.0, 0 for epoch in range(30): model.train() for x, y in train_loader: x, y x.cuda(), y.cuda() optimizer.zero_grad() out model(x) loss criterion(out, y) loss.backward() torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm1.0) optimizer.step() scheduler.step() # 验证集的AUC计算代码见第6章这里先留接口 val_auc evaluate_auc(model, val_loader) if val_auc best_auc: best_auc val_auc best_epoch epoch torch.save({state_dict: model.state_dict(), epoch: epoch, auc: val_auc}, best.pt) if epoch - best_epoch 8: print(early stop at epoch, epoch) breakclip_grad_norm_的作用是梯度裁剪max_norm1.0 防止个别样本产生超大梯度把预训练权重冲坏。混合精度训练用torch.cuda.amp可以省一半显存batch_size16加上512输入在8G显存的卡上刚好能跑如果你的卡只有4G就把输入降到384或者batch降到8并配合梯度累积。早停 patience 设成8个epoch比较稳妥医学数据噪声大验证指标波动正常太短的patience会过早停掉。不同模型的取舍我按下面的经验表来定模型显存开销512输入小数据集风险我的用法ResNet18低batch32可跑欠拟合风险低指标稳定首次跑通、快速验证管线ResNet50中batch16需半精度需要冻结浅层强增强正式基线EfficientNet-B3中低输入需调输出层会随scale变化追求推理速度时ViT-B/16高需要大batch几千张图容易过拟合有可靠的预训练权重时再试很多人一上来就想追“最新的图像分类模型”但在医学小数据上旧而稳的ResNet往往比新架构更可靠。先把ResNet18的基线跑出来确认预处理、采样、评估链路没问题再换ResNet50提点这个顺序能省下大量排错时间。5. 乳腺癌症图像分类的5个避坑记录现象、原因与排查方法5.1 训练集F1接近0.98验证集召回率却只有0.2现象训练过程一切正常loss稳定下降训练集准确率也很高一到验证集恶性样本的召回率惨不忍睹模型几乎把所有图都判成良性。看混淆矩阵会发现良性样本全都对恶性样本基本全错。原因类别不平衡没有真正处理。训练集里恶性样本占比低交叉熵损失被多数类主导模型学到的决策边界就是“都判良性”因为这样能让全局损失最小。如果只用了损失加权但没改采样或者只改采样但没配合合适的评估指标都会出现这个结果。解决采样器加权和损失加权同时开并且监控指标以AUC和召回率为主不要看准确率。我习惯在训练每个epoch后打印验证集的混淆矩阵而不是只打印loss。如果召回率长期上不去把损失权重里的恶性类再乘1.5到2倍同时观察精确率的变化找到两者平衡点。5.2 按图片随机切分AUC虚高到0.95换成按病人切分只剩0.78现象数据集划分时直接train_test_split按图片路径随机切训练出来的模型在验证集上AUC异常高换一个划分种子指标波动很大。等到按病人编号重新划分指标掉了十几个点。原因同一个病人的多张乳腺影像来自同一个扫描设备、同一个体位、同一套组织纹理本质上不是独立样本。随机按图片切分等于把同一病人的影像同时放进训练集和验证集模型其实在“认病人”而不是“认病灶”这是典型的数据泄漏。解决坚持按病人ID划分划分代码见3.1节。如果公开数据集没有明确病人编号就用文件名前缀或目录名推断推断不出来就按影像采集时间分组。做交叉验证时也要保证同一个病人只出现在一折里这是医学影像评估组的铁律。5.3 灰度图复制三通道后loss不降模型压根不收敛现象预处理把灰度图复制成RGB三通道训练loss在初值附近震荡十几个epoch都没有下降趋势验证AUC徘徊在0.5。原因常见的有两个。一是把灰度图直接交给ImageNet预训练模型但没有按ImageNet的mean/std做归一化输入分布与预训练分布严重错位。二是灰度图复制三通道后三个通道完全相同模型在通道维度上拿不到额外信息这本身不是问题但会放大归一化错误的影响。解决先检查预处理输出图的像素值范围如果直接是0-255的uint8喂给模型前必须做ToTensor加Normalize公式是(x - mean) / std。如果确认归一化没问题还是不收敛把学习率降到1e-5试跑5个epoch排除学习率过大的影响。最后检查数据路径有没有读错用torchvision.utils.make_grid可视化一个batch看图像内容是否正常、标签和图像是否对应。这步可视化经常能发现文件命名错位这种低级问题。5.4 模型学的是影像上的白标签和扫描仪伪影不是病灶现象验证集AUC很高但把Grad-CAM热力图叠加到原图后发现模型关注区域集中在图像左上角或边缘而不是肿块或钙化区域。更蹊跷的是图像旋转90度后预测概率明显下降。原因公开数据集的乳腺X光片上常带有设备信息水印、白色标记贴纸或扫描伪影。这些标记在图像位置上高度固定模型很容易把它们当成捷径——只要识别到白点或边缘文字就能“正确”分类因为同一个数据集的标签和扫描设备往往是绑定在一起的。模型学的不是医学特征而是数据集本身的无意泄露。解决预处理阶段用固定ROI裁剪掉图像四周边框和标记区域或者在分析时只保留乳腺区域。更关键的是用Grad-CAM做坏例检查把验证集里预测正确但激活区域明显错误的样本捞出来看如果这类样本占比较高说明模型泛化能力被高估了。我现在的习惯是每个项目正式出指标前必须先过一遍热力图这步省不掉。5.5 验证集里也有错标病理金标准并不完美现象训练脚本和数据管线都没问题但某个特定类别的样本反复被模型分错人工抽查后发现验证集标签本身就是错的。比如一张被标为良性的图病理报告里其实是低度恶性。原因医学标注本身存在主观性和误判不典型病变在医生之间也有分歧。公开数据集整理时可能只经历一轮标注没有复核流程错标样本混进验证集后模型再怎么调参也达不到那个“正确”指标。解决先用训练好的模型找出验证集中预测置信度最高但标签为负例的样本以及loss最高的样本人工重点复查这批。发现错标后把标签修正过来再重新评估。对训练集也可以采用标签平滑CrossEntropyLoss的label_smoothing0.05能减少模型对单一样本标签的过度自信提升对标注噪声的鲁棒性。在投稿或交付前务必记录人工复核了多少样本、修正了几个标签这个数字本身也是报告的一部分。6. 交付一份医生愿意签字的验证报告先锁敏感度再谈准确率模型训练完紧接着要做的是把指标从“深度学习黑匣子”翻译成临床语言。放射科医生不关心你的F1值他们关心的是漏诊率和误诊率。所以我的验证脚本里第一个指标永远是ROC-AUC第二个是PR曲线最后才是准确率。乳腺影像恶性样本占比低ROC曲线会被大量良性样本“撑高”PR曲线直接反映模型在恶性样本上的表现两者一起看才不会自欺欺人。from sklearn.metrics import roc_auc_score, precision_recall_curve, auc import numpy as np # all_probs 是模型在测试集上输出的正类概率all_labels 是真实标签 probs np.concatenate(all_probs) y_true np.concatenate(all_labels) roc_auc roc_auc_score(y_true, probs) precision, recall, thresholds precision_recall_curve(y_true, probs) pr_auc auc(recall, precision) print(fROC-AUC: {roc_auc:.3f} | PR-AUC: {pr_auc:.3f})分类阈值怎么定也有讲究。二分类默认阈值0.5在医学场景里几乎总是错的因为漏掉一个恶性病例的代价远高于多做一个良性活检。我一般会先锁定敏感度比如要求检出95%的恶性病例再反过来求阈值# 在不漏诊的前提下选择敏感度 0.95 的最低阈值 idx np.argmax(recall 0.95) clinical_threshold thresholds[idx] print(f在敏感度 {recall[idx]:.2f} 时阈值取 {clinical_threshold:.3f})确定阈值后用它重算混淆矩阵报告里写清楚敏感度、特异度、阳性预测值和阴性预测值。Grad-CAM热力图也要挑几个典型patch叠加到原图上一张图能抵过十行文字医生能直观判断模型看的是病灶还是设备水印。进阶一步我还会做多尺度推理同一张图分别用256和512输入各跑一次取平均概率。这个小技巧能稳定提两三个点AUC代价只是推理时间翻倍。最后把最佳模型权重、阈值、验证脚本和CAM截图归档到一个目录三个月后回来还能完整复现当时的指标。这是我自己的习惯也建议你从第一个项目就养成。希望帮到你。本文还有配套的精品资源点击获取