简介这份资源是面向计算机、人工智能、通信工程、自动化等专业学生与教师的本科毕业设计项目包围绕运动想象脑电信号分类任务采用CNNTransformer混合框架实现。CNN负责提取局部时空特征Transformer建模全局依赖并配套EEGNet、Conformer、空间注意力等对比模型适合作为毕设、课程设计或课题立项的参考方案。压缩包共31个文件约18.45MB包含23个Python脚本用于模型训练、预处理、可视化与统计分析另有2个xlsx实验数据表、2个m文件、1个xml配置、1个md说明、1个npy数据与1个pth权重文件覆盖从数据加载到结果呈现的完整链路。目前已有383人学习下载。读者可获取可运行的代码框架、四分类数据构造脚本、K折训练流程、t-SNE与CAM可视化工具及预训练权重便于快速复现实验并在此基础上修改扩展适合具备一定深度学习基础的学习者进阶使用。1. 从一段 4 秒的脑电说起CNNTransformer 到底在分类什么运动想象脑电信号分类说白了就是让人在脑子里“想”左手或右手动作算法从头皮电极采到的电压波动里判断他到底在想哪只手。这件事的难点不在模型有多深而在于信号本身信噪比极低4 秒的想象任务真正有判别力的信息往往集中在运动皮层对应的 C3、C4、Cz 几个通道频率上落在 8–13 Hz 的 mu 节律和 18–26 Hz 的 beta 节律而且每个人的频带中心还不太一样。本科毕业设计选这个题目通常拿的是 BCI Competition IV 2a 或 2b 这类公开数据集采样率 250 Hz9 个受试者每个受试者做两类或四类运动想象。标题里的 CNNTransformer 框架本质是两段式CNN 负责在时间维和通道维上做局部特征提取把原始 22 通道 × 1000 采样点的矩阵压成一组紧凑的特征序列Transformer 的编码器再在这组序列上做全局注意力捕捉长程依赖。为什么不是纯 CNN 或纯 Transformer纯 CNN 感受野有限堆深了容易过拟合小样本纯 Transformer 缺少局部归纳偏置在几百个 trial 的数据量上很难训起来。两者拼起来恰好是本科毕设能跑通、又能讲出创新点的折中方案。这篇笔记就按“数据怎么进、模型怎么搭、参数怎么调、坑在哪”的顺序把这条路线讲成能照着复现的版本。2. 数据预处理与 epoch 切分把 raw 变成模型能吃的张量2.1 为什么先带通再切 epoch顺序不能反很多人拿到 .gdf 或 .mat 文件后直接切 epoch 再做滤波结果边界处出现振铃分类准确率莫名其妙掉几个点。正确顺序是先对连续信号做 0.5–40 Hz 带通去掉基线漂移和高频肌电再做 50 Hz 陷波然后按事件标记切出每个 trial。运动想象的标准 epoch 窗口一般取 cue 出现后 0.5–2.5 s 或 0.5–3.5 s避开视觉诱发的早期成分。切完后每个 trial 做基线校正用 cue 前 0.5 s 的均值减掉。下面这段是常见的 MNE 处理流程我一般会把它写成独立脚本方便换数据集时只改路径和通道名。import mne import numpy as np # 读取原始文件不同数据集格式不同这里以 gdf 为例 raw mne.io.read_raw_gdf(A01T.gdf, preloadTrue) # 通道名按 10-20 系统重命名方便后续挑 C3/C4/Cz raw.rename_channels({ch: ch.strip(.) for ch in raw.ch_names}) # 带通 陷波顺序固定先带通后陷波 raw.filter(0.5, 40., fir_designfirwin) raw.notch_filter(50., fir_designfirwin) # 提取事件BCI IV 2a 里 769/770 对应左右手 events, event_id mne.events_from_annotations(raw) epochs mne.Epochs(raw, events, event_id{left: 769, right: 770}, tmin0.5, tmax2.5, baselineNone, preloadTrue) # 基线校正用 cue 前窗口这里简化处理 epochs.apply_baseline((None, 0)) X epochs.get_data() # shape: (n_trials, n_channels, n_times) y epochs.events[:, -1] # 标签逻辑说明filter的firwin设计比 IIR 更稳相位失真小tmin0.5是经验值太早会混入视觉诱发电位太晚则丢掉 mu 节律的去同步。参数上l_freq0.5不能设成 0否则基线漂移会让后续标准化失效h_freq40是 250 Hz 采样下的安全上限再高只会引入肌电噪声。切完 epoch 后建议打印X.shape确认 trial 数2a 数据集每个 session 大约 288 个 trial四类的话每类 72 个。2.2 标准化与通道选择别把 Cz 当垃圾扔了运动想象最相关的通道是 C3、C4、Cz但直接只取这三个通道会丢掉空间信息。常见做法是保留全部 22 通道但做逐通道 z-score 标准化让每个通道的幅值量纲一致。标准化要按 trial 做还是按整个训练集做我一般按训练集整体统计均值和方差再应用到验证集和测试集避免数据泄漏。如果按 trial 做会抹掉 trial 之间的幅值差异而运动想象的 ERD/ERS 恰恰体现在幅值变化上。from sklearn.preprocessing import StandardScaler n_trials, n_channels, n_times X.shape X_flat X.transpose(1, 0, 2).reshape(n_channels, -1) # 按通道展平 scaler StandardScaler() X_scaled scaler.fit_transform(X_flat.T).T X_scaled X_scaled.reshape(n_channels, n_trials, n_times).transpose(1, 0, 2)这段代码的关键是transpose的顺序先把通道维提到前面让 scaler 对每个通道独立拟合再还原回(trial, channel, time)。参数上StandardScaler默认按列减均值除标准差正好对应每个通道。如果数据集本身已经做过标准化这一步可以跳过但一定要确认否则二次标准化会把有用信息压扁。3. CNNTransformer 模型搭建从局部卷积到全局注意力3.1 CNN 前端怎么设计才不浪费参数CNN 前端的目标是把(22, 1000)的输入压成(seq_len, d_model)的序列。常见结构是先做一次时间卷积kernel 64stride 8把 1000 个时间点降到 125再做一次深度可分离卷积在通道维上融合空间信息最后用 1×1 卷积把通道数映射到d_model。这里有个容易翻车的地方时间卷积的 kernel 如果设成 25 以下感受野覆盖不到一个完整的 mu 节律周期250 Hz 下 10 Hz 对应 25 个采样点特征会碎。import torch import torch.nn as nn class CNNFrontend(nn.Module): def __init__(self, n_channels22, d_model64): super().__init__() # 时间卷积kernel 64 覆盖约 2.5 个 mu 周期 self.temporal nn.Conv2d(1, 16, (1, 64), stride(1, 8), padding(0, 28)) self.bn1 nn.BatchNorm2d(16) # 空间卷积在通道维上做深度可分离 self.spatial nn.Conv2d(16, 32, (n_channels, 1), groups16) self.bn2 nn.BatchNorm2d(32) # 映射到 d_model self.project nn.Conv2d(32, d_model, (1, 1)) self.relu nn.ReLU() def forward(self, x): # x: (batch, 1, channels, time) x self.relu(self.bn1(self.temporal(x))) x self.relu(self.bn2(self.spatial(x))) x self.project(x) # (batch, d_model, 1, time) x x.squeeze(2).transpose(1, 2) # (batch, time, d_model) return x逻辑说明temporal的stride8把 1000 点降到 125 点padding28保证边界不丢spatial的groups16是深度可分离的关键参数量从16×32×22降到16×32小数据集上这点很重要。d_model64是本科毕设的甜点值再大容易过拟合再小注意力头数不好分。输出序列长度 125对 Transformer 来说偏长可以在后面加一层 stride 2 的池化降到 62减少注意力计算量。3.2 Transformer 编码器位置编码和头数怎么定Transformer 编码器直接调nn.TransformerEncoder就行但位置编码不能省。脑电序列的时间顺序是有意义的ERD 的起始和持续时长都跟时间位置相关。常见做法是用正弦位置编码或者直接用一个可学习的位置嵌入。头数我一般设 4 或 8d_model64时 4 头每头 16 维8 头每头 8 维后者在 trial 少的时候更容易欠拟合。层数 2 到 3 层足够再多验证集 loss 会反弹。class PositionalEncoding(nn.Module): def __init__(self, d_model, max_len200): super().__init__() pe torch.zeros(max_len, d_model) position torch.arange(0, max_len).unsqueeze(1).float() div_term torch.exp(torch.arange(0, d_model, 2).float() * (-torch.log(torch.tensor(10000.0)) / d_model)) pe[:, 0::2] torch.sin(position * div_term) pe[:, 1::2] torch.cos(position * div_term) self.register_buffer(pe, pe.unsqueeze(0)) def forward(self, x): return x self.pe[:, :x.size(1), :] class EEGTransformer(nn.Module): def __init__(self, d_model64, nhead4, num_layers2, n_classes2): super().__init__() self.cnn CNNFrontend(d_modeld_model) self.pos PositionalEncoding(d_model) encoder_layer nn.TransformerEncoderLayer( d_modeld_model, nheadnhead, dim_feedforward128, dropout0.3, batch_firstTrue) self.encoder nn.TransformerEncoder(encoder_layer, num_layersnum_layers) self.classifier nn.Linear(d_model, n_classes) def forward(self, x): x self.cnn(x) # (batch, seq, d_model) x self.pos(x) x self.encoder(x) x x.mean(dim1) # 全局平均池化 return self.classifier(x)参数说明dropout0.3是脑电小样本的常用值比视觉任务的 0.1 高dim_feedforward128是d_model的两倍再大参数量翻倍但收益不明显x.mean(dim1)用平均池化而不是取[CLS]因为脑电没有明确的分类 token平均池化更稳。训练时用 Adam学习率 1e-3weight decay 1e-4batch size 32epoch 100 左右早停看验证集准确率。4. 训练与评估交叉验证、指标和几个必调的参数4.1 按受试者做交叉验证别随机切运动想象数据最大的坑是受试者间差异极大。如果随机切训练集和测试集同一个受试者的 trial 会同时出现在两边准确率虚高到 90% 以上但换个人就崩。正确做法是 leave-one-subject-out每次留一个受试者做测试其余做训练。BCI IV 2a 有 9 个受试者正好做 9 折。如果只想快速验证至少也要按 session 切不能按 trial 随机切。from sklearn.model_selection import LeaveOneGroupOut import numpy as np # subjects 是每个 trial 对应的受试者编号 logo LeaveOneGroupOut() accs [] for train_idx, test_idx in logo.split(X, y, groupssubjects): X_train, X_test X[train_idx], X[test_idx] y_train, y_test y[train_idx], y[test_idx] # 这里接上面的模型训练流程 # acc train_and_eval(X_train, y_train, X_test, y_test) # accs.append(acc) print(fLOSO mean acc: {np.mean(accs):.4f} /- {np.std(accs):.4f})逻辑说明groups传受试者编号LeaveOneGroupOut保证同一受试者不会跨训练和测试。报告结果时一定要写均值和标准差只报一个最高值没有意义。2a 数据集上CNNTransformer 这类框架的 LOSO 准确率通常在 70%–80% 之间四类任务能到 60% 以上就算不错。如果看到 95% 以上先检查是不是数据泄漏。4.2 学习率、dropout 和 batch size 的联动这三个参数是联动的单独调一个往往没用。学习率 1e-3 配 batch size 32 是起点如果验证集 loss 震荡先把学习率降到 5e-4如果训练集 loss 降不下去说明欠拟合把 dropout 从 0.3 降到 0.2 或加宽d_model。batch size 不建议超过 64因为总 trial 数才几百batch 太大会导致每个 epoch 更新次数太少。另外Transformer 的 warmup 在小数据上不是必须的但加一个 5 个 epoch 的线性 warmup 有时能稳住早期训练。optimizer torch.optim.Adam(model.parameters(), lr1e-3, weight_decay1e-4) scheduler torch.optim.lr_scheduler.ReduceLROnPlateau( optimizer, modemax, factor0.5, patience10) for epoch in range(100): model.train() # ... 训练循环 ... val_acc evaluate(model, val_loader) scheduler.step(val_acc) if val_acc best_acc: best_acc val_acc torch.save(model.state_dict(), best.pth)ReduceLROnPlateau的patience10表示验证指标 10 个 epoch 不升就减半比固定步长衰减更适应小数据。保存best.pth而不是最后一个 epoch因为过拟合后验证准确率会掉。5. 避坑与排查那些让准确率一夜回到解放前的细节5.1 现象训练 loss 正常下降验证准确率始终 50%原因标签和数据没对齐。BCI IV 2a 的 event 编码里 769/770 是左右手但有些预处理脚本会把 768 也当成一个类导致标签多出一类。解决打印np.unique(y)确认类别数二分类任务应该只有两个值。另外检查epochs.events[:, -1]取的是不是正确的列MNE 里最后一列是 event id不是 trial index。5.2 现象换受试者后准确率从 80% 掉到 55%原因受试者间频带差异。有人 mu 节律在 10 Hz有人在 12 Hz固定带通 8–13 Hz 对后者会削掉一半能量。解决要么把带通放宽到 7–30 Hz要么对每个受试者做一次频带估计。本科毕设里放宽带通是最省事的做法代价是引入一点噪声但比频带错位强。5.3 现象模型参数量不大但训练时 GPU 显存爆了原因CNN 前端输出的序列长度没降下来。temporal的stride8后还有 125 个时间点如果d_model128、batch64注意力矩阵是64×125×125显存占用不小。解决在 CNN 后面加一层MaxPool1d(2)把序列降到 62或者把 batch 降到 16。另外检查dim_feedforward是不是设成了 512小数据上 128 就够。5.4 现象验证集准确率波动超过 10 个百分点原因batch size 太小或数据没打乱。trial 数少的时候如果每个 batch 里类别不平衡梯度方向会来回摆。解决用DataLoader的shuffleTrue并且确保每个 batch 里两类样本都有。可以手动做 stratified batch或者把 batch size 提到 32 以上。5.5 现象推理时单 trial 预测结果和训练时对不上原因标准化参数没保存。训练时用训练集拟合了StandardScaler推理时如果重新拟合测试集分布就变了。解决把 scaler 的mean_和scale_存下来推理时直接 transform不要重新 fit。这个坑在答辩演示时特别致命因为演示用的 trial 往往是单独加载的。6. 把准确率再往上推一点两个我常用的技巧第一个技巧是数据增强。运动想象数据少增强是最直接的提分手段。我常用两种一是加高斯噪声信噪比控制在 10–20 dB太干净没效果太脏会破坏 ERD 模式二是时间裁剪从 2 秒的 epoch 里随机裁 1.8 秒让模型对时间偏移不敏感。这两种增强在 LOSO 上通常能带来 2–4 个点的提升而且实现简单不需要额外标注。def augment(x, noise_std0.1, crop_len450): # x: (channels, time) if np.random.rand() 0.5: x x np.random.randn(*x.shape) * noise_std if x.shape[1] crop_len: start np.random.randint(0, x.shape[1] - crop_len) x x[:, start:start crop_len] return xnoise_std0.1是对标准化后的数据而言相当于 10% 的噪声水平crop_len450对应 1.8 秒比完整 epoch 短 0.2 秒模型仍能学到主要模式。增强只在训练时做验证和测试用完整 epoch。第二个技巧是模型集成。单模型 LOSO 方差大把 3 个不同随机种子的 CNNTransformer 预测概率平均准确率通常能再涨 1–2 个点而且方差明显变小。集成时注意每个模型要用相同的预处理和标准化参数否则概率不可比。如果答辩时被问到“为什么不用更大的模型”我的回答通常是在这个数据量下集成三个小模型比换一个大模型更划算而且训练时间可控。这套流程我从头跑一遍大约需要一晚上调参主要花在带通范围和 dropout 上其他参数用默认值就能出结果。希望帮到你。本文还有配套的精品资源点击获取