时间序列预测这个领域过去几年几乎被Transformer架构和各类注意力机制刷屏了。大家比拼的都是怎么把长程依赖建模得更准、怎么把参数量堆得更高、怎么在标准数据集上把MSE再压低零点几个百分点。但我在实际做电力负荷预测和传感器信号预测的项目时反复遇到一个很尴尬的现象模型在整体趋势上拟合得不错可一到那些幅度不大但业务上极其关键的波动区间预测就明显发飘。后来我意识到问题很可能出在频域——那些低能量的频率成分在常规的损失函数和归一化流程里几乎被高能量成分彻底淹没了。这篇要聊的Amplifier就是冲着这个被忽略的角落去的。它做的事情说起来不复杂把时间序列频谱里那些能量低但信息量大的成分放大让模型能真正看见它们从而提升预测精度。适合做时序预测的算法工程师、想在自己的模型里加频域模块的研究者以及被趋势准、细节崩问题困扰的实践者参考。1. 为什么低能量频率成分在时序预测里总是被牺牲掉1.1 从一次负荷预测的翻车说起我之前做过一个区域电力负荷的短期预测项目输入是过去七天的15分钟粒度负荷数据输出是未来24小时的负荷曲线。用的是当时比较主流的Informer变体训练集上的MSE降得很漂亮验证集整体指标也能看。但上线之后调度侧的同事反馈说每天傍晚那个负荷爬坡的拐点模型总是提前或者滞后误差虽然绝对值不大可对于调度决策来说这个拐点的时间精度比整体MSE重要得多。我把预测曲线和真实曲线做了频谱分析发现一个很明显的规律负荷曲线的主要能量集中在低频段也就是日周期和趋势项这部分模型学得很好。但那个拐点对应的其实是中高频段的一些成分能量占比可能只有总能量的百分之几却在时间域上对应着关键的形态变化。模型在训练时损失函数对所有频率成分一视同仁地计算误差而高能量成分的误差绝对值天然就大梯度贡献也大于是优化过程自然就偏向把高能量成分拟合好低能量成分的误差被平均掉了。这不是某个模型的问题而是整个建模范式的一个结构性偏差。你用的归一化方法、损失函数、甚至早停策略都在无形中强化这种偏差。1.2 能量分布不均带来的梯度淹没效应要理解这件事得从频谱能量的分布说起。真实世界的时间序列无论是电力负荷、交通流量、气象数据还是金融价格它们的功率谱密度通常呈现幂律衰减——低频能量高高频能量低中间还有若干尖峰对应周期性成分。假设总能量是1低频趋势项可能占了0.9剩下的0.1里日周期占0.06剩下的0.04才轮到那些真正刻画局部形态的中高频成分。在反向传播时每个频率成分对梯度的贡献大致和它的能量成正比。高能量成分产生的梯度大参数更新主要被它们主导。低能量成分产生的梯度小在优化器看来就像是噪声很容易被动量项或者自适应学习率机制给平滑掉。更麻烦的是很多模型在输入侧做了标准化把整体方差归一化到1这一步对高能量成分是线性的对低能量成分却可能进一步压缩它们的相对幅度。我做过一个简单的实验拿一段合成信号包含一个低频正弦和一个高频小幅正弦用LSTM去预测。不做任何处理时模型能把低频正弦学得七七八八高频那个基本被抹平。后来我在损失函数里给高频部分加了权重情况才好转。这说明问题不在模型容量而在优化信号的分配。1.3 Amplifier要解决的核心矛盾Amplifier的思路很直接既然低能量成分在优化中被淹没那就在频域里主动把它们放大让它们在梯度计算中重新获得话语权。具体来说它不是在时域上做加权而是在频域上对幅度谱进行非线性变换把低幅度区域的增益提上去高幅度区域保持或略微压缩然后再变换回时域参与后续的预测建模。这个操作听起来像是信号处理里的动态范围压缩但目的完全不同。动态范围压缩是为了让信号在有限位深下不失真Amplifier是为了让优化器公平地对待每个频率成分。它要的不是信号保真而是梯度保真。这里有个关键的设计取舍放大倍数不能无限制。如果放得太大低能量成分里的噪声也会被同步放大模型会去拟合那些本没有预测价值的随机波动。所以Amplifier通常配合一个可学习的或者基于统计的阈值只放大那些低能量但有结构的成分。这个阈值的选取后面会详细讲。2. Amplifier的频域放大机制拆解2.1 从时域到频域变换方式的选择Amplifier的第一步是把时间序列变换到频域。这里有几个选择离散傅里叶变换DFT、离散余弦变换DCT、以及各种小波变换。DFT是最直接的但它是复数变换幅度和相位要分开处理相位信息在预测任务里其实很关键不能随便动。DCT是实数变换能量集中性更好适合做压缩和放大但它丢失了相位信息对于需要精确重构时域波形的任务不太友好。我在复现Amplifier时用的是短时傅里叶变换STFT因为它能同时保留时间和频率的局部信息。对于非平稳时间序列全局DFT会把不同时段的频率成分混在一起放大操作可能会误伤。STFT加窗之后每个时间窗内的频率成分相对稳定放大更有针对性。窗长和重叠率是两个关键参数窗长太短频率分辨率不够太长则时间分辨率下降。我的经验是对于15分钟粒度的负荷数据窗长取96个点对应一天比较合适重叠率50%。小波变换是另一个选项它在低频段频率分辨率高高频段时间分辨率高天然适合处理幂律衰减的频谱。但小波的基函数选择比较讲究而且放大操作在小波域不如在傅里叶域直观。如果你的序列有明显的多尺度特征可以试试小波否则STFT是更稳妥的起点。2.2 幅度谱的非线性放大函数设计拿到幅度谱之后核心操作就是设计放大函数。最朴素的做法是取倒数幅度越小放大倍数越大。但这样会把接近零的噪声成分放大到无穷大显然不行。所以实际用的是带阈值的平滑放大常见形式有几种。第一种是对数放大对幅度谱取对数然后乘以一个增益系数再指数还原。对数函数在低幅度区域斜率大高幅度区域斜率小天然符合放大低能量、保留高能量的需求。增益系数控制整体放大强度通常取0.3到0.7之间。这个方法的优点是平滑、无参数突变缺点是会压缩高能量成分的动态范围可能影响趋势项的拟合。第二种是幂律放大对幅度谱做幂运算指数小于1时低幅度被相对提升。比如幅度谱的0.7次方就相当于对低幅度区域做了温和放大。指数越小放大越强但太小会引入噪声。我一般从0.8开始试根据验证集表现调整。第三种是分段线性放大设定一个低能量阈值和一个高能量阈值低于低阈值的成分放大固定倍数高于高阈值的保持不变中间线性过渡。这种方法最直观参数也好解释但阈值和倍数的选择需要一些先验知识或者网格搜索。放大函数类型核心参数适用场景主要风险对数放大增益系数频谱动态范围大、噪声低高能量成分被压缩幂律放大幂指数需要平滑过渡、参数少指数过小放大噪声分段线性双阈值倍数有明确能量分界阈值选择依赖经验我个人的偏好是幂律放大因为它只有一个参数调起来快而且对噪声的放大是渐进的不会突然失控。在对数放大和幂律放大之间其实有一个理论联系对数放大可以看作幂律放大在指数趋近于零时的极限但实际使用中两者的行为差异还是挺明显的。2.3 相位信息的保护与重构放大操作只动幅度谱相位谱必须原封不动。这是Amplifier设计里的一条铁律。原因很简单相位决定了各频率成分在时域上的对齐关系也就是波形的形状。如果相位被扰动即使幅度谱完全正确重构出来的时域信号也会面目全非。我见过有人为了增强信号对复数谱整体做非线性变换结果时域波形完全崩掉预测性能反而下降。在STFT框架下每个时间窗有自己的相位谱。放大幅度后用原始相位和放大后的幅度重构复数谱再做逆STFT得到放大后的时域序列。这里要注意窗函数的重叠相加条件如果窗函数不满足COLAConstant Overlap-Add条件重构会有幅度调制。汉宁窗在50%重叠下满足COLA是最常用的选择。还有一个细节STFT的边界效应。序列两端的窗没有完整覆盖重构时会有边缘失真。处理方法是做对称填充填充长度至少等于窗长。填充方式用反射填充比零填充好因为零填充会在边界引入虚假的高频成分被放大函数误放大。2.4 放大后的序列如何接入预测模型Amplifier不是一个独立的预测模型它是一个预处理或者特征增强模块。放大后的序列可以有两种用法一种是直接替换原始输入让预测模型在放大后的序列上训练另一种是作为额外通道和原始序列拼接让模型自己学习如何融合。直接替换的做法更激进适合原始序列中低能量成分确实包含关键信息、且噪声水平可控的场景。拼接的做法更保守模型可以选择性地利用放大信息但参数量会增加训练数据不足时容易过拟合。我在电力负荷项目里用的是拼接因为负荷数据本身噪声不大但不同区域的负荷特性差异明显让模型自己学融合权重更稳妥。具体实现上把原始序列和放大序列在特征维度拼接然后过一个1x1卷积做通道压缩再送入后续的时序建模层。这个1x1卷积的初始化很重要我一般初始化为单位矩阵的缩放版本让模型在训练初期主要依赖原始序列随着训练进行再逐渐引入放大信息。注意放大后的序列数值范围会变大如果直接和原始序列拼接需要先做标准化否则后续层的激活函数容易饱和。我通常对放大序列单独做一次z-score标准化再拼接。3. 把Amplifier落地到自己的预测流程里3.1 环境准备与依赖选择Amplifier本身不依赖什么特殊的库核心就是傅里叶变换和基本的张量操作。如果你用PyTorchtorch.fft模块从1.7版本开始就支持复数运算和自动求导足够用了。如果用TensorFlowtf.signal里的STFT和逆STFT也很成熟。我建议直接用框架自带的不要引入额外的信号处理库因为跨库的梯度传递容易出问题。Python环境方面numpy和scipy是基础scipy.signal里的窗函数和STFT实现可以作为参考但实际训练时还是用框架内的版本保证梯度能回传。如果你要做超参数搜索optuna或者ray tune都可以但Amplifier的参数不多手动调也够用。硬件上STFT和逆STFT的计算量相对于后面的时序模型来说很小GPU不是必须的但如果有GPU整个流程会快很多。我测试过对于一个batch size 64、序列长度1024的输入STFT加放大加逆STFT在CPU上大概几毫秒在GPU上不到一毫秒基本可以忽略。3.2 核心代码实现与逐行说明下面是我在实际项目中用的一个Amplifier实现基于PyTorch支持可学习的放大指数。代码不长但每个参数都有讲究。import torch import torch.nn as nn import torch.fft class Amplifier(nn.Module): def __init__(self, n_fft96, hop_length48, alpha_init0.8, learnableTrue): super().__init__() self.n_fft n_fft self.hop_length hop_length self.window torch.hann_window(n_fft) if learnable: self.alpha nn.Parameter(torch.tensor(alpha_init)) else: self.register_buffer(alpha, torch.tensor(alpha_init)) def forward(self, x): # x: (batch, seq_len) # STFT spec torch.stft(x, n_fftself.n_fft, hop_lengthself.hop_length, windowself.window.to(x.device), return_complexTrue) # spec: (batch, freq_bins, time_frames) mag torch.abs(spec) phase torch.angle(spec) # 幂律放大alpha 1 时低幅度被相对提升 mag_amplified torch.pow(mag 1e-8, self.alpha) # 重构复数谱 spec_amplified mag_amplified * torch.exp(1j * phase) # 逆STFT x_amplified torch.istft(spec_amplified, n_fftself.n_fft, hop_lengthself.hop_length, windowself.window.to(x.device), lengthx.shape[-1]) return x_amplified这段代码里有几个点值得展开。alpha_init0.8是我在多个数据集上试出来的一个比较稳的起点它对应的放大强度适中不会太激进。learnableTrue让alpha参与训练模型可以根据数据自动调整放大强度但要注意给alpha加一个约束比如限制在0.5到1.0之间否则训练过程中可能跑飞。我一般用torch.clamp在每次前向传播后做投影或者用sigmoid映射。1e-8的epsilon是为了避免对零取幂。虽然理论上幅度谱非负但数值误差可能产生极小的负值加一个小的正数更安全。torch.angle返回的是弧度制相位范围在负pi到pi之间torch.exp(1j * phase)能正确还原复数。逆STFT的length参数必须指定否则重构序列的长度可能因为窗重叠而和原始长度不一致。这个坑我踩过当时没指定length结果输出比输入长了几个点后面拼接的时候维度对不上排查了半天。3.3 参数调优的实操经验Amplifier的可调参数主要有三个n_fft、hop_length和alpha。n_fft决定频率分辨率hop_length决定时间分辨率两者的比值影响STFT的冗余度。对于大多数时间序列我建议n_fft取序列长度的十分之一到五分之一hop_length取n_fft的一半。比如序列长度1024n_fft取128hop_length取64这样频率分辨率是采样率的1/128时间分辨率是64个点对于捕捉日周期和局部波动都够用。alpha的调优最需要经验。我的做法是先固定alpha0.8跑一轮看验证集损失。如果比不加Amplifier还差说明放大过头了把alpha往1.0调。如果和基线差不多说明放大不够往0.6调。一般两三轮就能找到合适的区间。如果让alpha可学习初始值设0.8学习率设得比主网络小一个数量级比如主网络1e-3alpha用1e-4这样它不会在训练初期剧烈变化。还有一个容易被忽略的参数STFT的窗函数。汉宁窗是默认选择但如果你要放大的频率成分集中在某个特定频段可以试试高斯窗或者凯泽窗它们的旁瓣衰减特性不同对特定频段的泄漏控制更好。不过大多数情况下汉宁窗够用换窗函数的收益不明显。3.4 与不同预测骨干网络的集成方式Amplifier可以接在各种时序预测骨干前面但集成方式有讲究。对于LSTM和GRU这类循环网络放大后的序列直接作为输入就行因为循环网络对输入尺度不太敏感内部的门控机制会自适应。但要注意放大后的序列方差变大如果LSTM的输入权重初始化太小前几个时间步的激活值会很小影响梯度流动。我的做法是在Amplifier后面加一个LayerNorm把放大序列的分布拉回标准正态附近。对于TCN和WaveNet这类卷积网络放大序列和原始序列拼接后一起输入效果更好因为卷积核可以同时看到两个尺度的信息。拼接时注意通道顺序我一般把原始序列放在前面放大序列放在后面这样卷积核的初始化可以偏向原始序列。对于Transformer类模型情况稍微复杂。Transformer的位置编码是基于原始序列的数值范围设计的如果输入放大序列位置编码的相对关系可能被破坏。我的做法是给放大序列单独做位置编码或者干脆把放大序列作为额外的token序列和原始序列的token做交叉注意力。后者计算量更大但效果通常更好。骨干类型推荐集成方式关键注意事项LSTM/GRU直接输入LayerNorm输入权重初始化要匹配放大后方差TCN/WaveNet通道拼接原始序列在前放大序列在后Transformer独立位置编码或交叉注意力避免破坏原始位置关系4. 实测效果与那些文档里不会写的坑4.1 在电力负荷和交通流量数据上的对比我在两个数据集上做了对比实验一个是某区域的电力负荷数据15分钟粒度预测未来24小时另一个是公开的交通流量数据集5分钟粒度预测未来1小时。基线模型用的是LSTM和TCN分别测试加Amplifier和不加的效果。电力负荷数据上不加Amplifier的LSTM在验证集上的MSE是0.042加了之后降到0.036降幅约14%。更关键的是傍晚爬坡拐点的时间误差从平均23分钟降到了11分钟。这个改善在业务上比MSE的下降更有价值。TCN上的改善类似MSE从0.038降到0.033。交通流量数据上改善幅度小一些MSE从0.051降到0.047降幅约8%。我分析原因是交通流量数据的噪声水平比负荷数据高低能量成分里混入了更多随机波动放大之后模型学到了一些噪声。后来我把alpha从0.8调到0.9改善幅度回升到10%左右。这说明放大强度需要根据数据的信噪比来调整噪声大的数据要温和一些。还有一个有意思的发现Amplifier对预测步长的影响不均匀。对于短步长预测未来1到4步改善不明显因为短步长主要依赖近期的高能量趋势。对于长步长预测未来16步以上改善显著因为长步长需要依赖那些低能量的周期性成分来维持形态。这符合Amplifier的设计初衷。4.2 放大噪声导致过拟合的排查过程上面提到交通流量数据上放大噪声的问题我详细说一下排查过程因为这个坑很典型。当时加了Amplifier之后训练集损失降得很快但验证集损失在几个epoch之后开始回升典型的过拟合。我一开始以为是模型容量太大试了加dropout和权重衰减效果不明显。后来我把放大后的序列单独拿出来看发现高频段那些接近零的幅度被放大到了和日周期成分差不多的量级。这些高频成分在原始数据里就是噪声放大之后模型把它们当成了有效信号去拟合。问题的根源是幂律放大对接近零的幅度也一视同仁地放大没有区分低能量但有结构和低能量且随机。解决方案是加一个软阈值在放大之前把幅度谱里低于某个阈值的成分置零或者大幅衰减。阈值怎么定我用的是幅度谱中位数的十分之一。这个阈值是自适应的不同样本的阈值不同避免了固定阈值在不同数据分布上的不适应。加了这个软阈值之后交通流量数据上的过拟合问题基本消失验证集损失稳定下降。提示软阈值的引入相当于在频域做了一次去噪它和时域的去噪自编码器思路类似但计算量小得多。如果你的数据噪声水平高这一步几乎是必须的。4.3 训练不稳定时的几个应急手段Amplifier引入的频域操作会让训练动态变得更复杂偶尔会遇到损失震荡或者梯度爆炸。我遇到过几次总结下来有几个应急手段。第一梯度裁剪。频域操作的梯度在逆STFT之后会被窗函数调制某些频率成分的梯度可能异常大。我一般设clip_grad_norm_的阈值为1.0比不加Amplifier时的5.0严格很多。这个阈值不是拍脑袋定的我观察过梯度范数的分布加Amplifier后99分位数大概在0.8左右设1.0能覆盖绝大多数情况又不至于裁剪过度。第二学习率预热。Amplifier的alpha参数在训练初期如果变化太快会导致输入分布剧烈漂移后面的骨干网络来不及适应。用500到1000步的线性预热让alpha慢慢进入工作状态训练稳定性会好很多。第三监控放大序列的统计量。我在训练循环里加了几个钩子记录每个epoch放大序列的均值和方差。如果方差突然增大一个数量级说明alpha跑偏了需要检查约束是否生效。这个监控不增加多少计算量但能提前发现很多问题。4.4 计算开销与推理延迟的实测数据Amplifier的计算开销主要来自STFT和逆STFT。我在一台配备V100的机器上测过对于batch size 32、序列长度512的输入STFT加放大加逆STFT的总耗时约0.8毫秒而LSTM骨干的前向传播约3.2毫秒TCN约2.5毫秒。也就是说Amplifier带来的额外开销在20%到30%之间。这个开销在离线训练时完全可以接受但在线推理时如果延迟敏感需要权衡。降低开销的办法有几个。一是减小n_fft频率分辨率降低但计算量线性下降。二是用实数FFT代替复数FFTPyTorch的torch.fft.rfft只计算正频率部分计算量减半。三是把Amplifier放在数据预处理阶段离线算好放大序列存下来训练时直接读取。第三种办法最省事但失去了alpha可学习的灵活性适合alpha已经调好不再变化的场景。我实际部署时用的是第二种rfft加irfft配合onesidedTrue的STFT推理延迟从0.8毫秒降到了0.4毫秒对整体延迟的影响基本可以忽略。5. 几个容易踩的认知误区和边界条件5.1 Amplifier不是万能药什么数据上它可能无效Amplifier的核心假设是低能量频率成分里包含对预测有用的信息且这些信息在常规训练中被淹没了。如果数据不满足这个假设Amplifier不仅无效还可能有害。什么数据不满足第一种是白噪声主导的数据频谱平坦没有明显的低能量结构成分放大只会放大噪声。第二种是已经做过频域增强或者小波去噪的数据低能量成分已经被处理过再放大是重复劳动。第三种是序列长度极短的数据比如长度小于50STFT的频率分辨率太低放大操作在几个频率bin上进行意义不大。判断方法很简单对数据做一次频谱分析看功率谱是否呈现明显的幂律衰减以及低能量区域是否有可辨识的尖峰。如果有Amplifier大概率有用如果频谱平坦或者低能量区域全是随机波动就别浪费时间了。5.2 放大倍数与预测精度的非单调关系很多人直觉上认为放大倍数越大低能量成分越突出预测应该越好。但实测下来放大倍数和预测精度是倒U型关系。放大不够低能量成分还是被淹没放大过头噪声被引入模型过拟合。最优放大倍数在中间某个位置具体值取决于数据的信噪比和低能量成分的占比。我做过一组消融实验alpha从0.5到1.0步长0.05在电力负荷数据上的MSE变化如下alpha0.5时MSE0.041alpha0.7时0.037alpha0.8时0.036alpha0.85时0.035alpha0.9时0.036alpha0.95时0.039alpha1.0时0.042。最优在0.85附近和0.8、0.9的差距不大说明这个区间比较平坦不用调得太精细。这个非单调关系也解释了为什么让alpha可学习是有风险的如果初始化不好alpha可能收敛到次优区域。我的做法是先用固定alpha找到大致区间再放开让模型微调这样既利用了可学习的灵活性又避免了盲目搜索。5.3 与归一化、损失函数的配合关系Amplifier和归一化的关系很微妙。如果在Amplifier之前做全局归一化低能量成分的相对幅度会被进一步压缩放大效果打折扣。我的做法是把归一化放在Amplifier之后或者对放大序列单独做归一化。如果骨干网络本身有BatchNorm或者LayerNorm那Amplifier的输出直接送进去就行让骨干的归一化层去处理尺度问题。损失函数方面MSE对高能量成分的误差更敏感这和Amplifier的目标有冲突。如果条件允许可以试试在频域计算损失对低能量频段的误差给更高权重。但这会增加实现复杂度而且频域损失和时域损失的平衡不好把握。我的折中方案是在时域用MSE但给那些低能量成分对应的时间区间更高的样本权重。这个权重可以通过对放大序列和原始序列的差异来估计差异大的时间点权重高。5.4 在线推理时的状态维护问题如果做在线推理Amplifier的STFT需要一定长度的上下文窗口。对于流式数据不能等整个序列到齐再做STFT需要用滑动窗口。滑动窗口的更新策略会影响放大效果窗口滑动步长太大窗口之间的放大结果不连续预测会有跳变步长太小计算冗余。我的做法是用重叠滑动窗口步长取hop_length每次新数据到来时只计算新窗口的STFT然后和之前的窗口做重叠相加。这样计算量可控放大结果也连续。但要注意重叠相加时相位要对齐否则重构信号会有相位跳变。实现上维护一个相位累积器每个窗口的相位相对于全局参考相位做调整。这个在线版本的实现比离线版本复杂不少如果延迟要求不苛刻我建议还是用固定长度的滑动窗口每次重新计算整个窗口的STFT简单可靠。窗口长度取n_fft的两到三倍既能保证频率分辨率又不会引入太大延迟。6. 从Amplifier延伸出去的几个改进方向6.1 自适应频带选择只放大该放大的部分固定形式的幂律放大对所有频率一视同仁但实际数据里有用的低能量成分往往集中在特定频带。比如电力负荷的拐点信息主要在0.1到0.5倍日频率之间交通流量的突变信息在更高的频带。如果能自动识别这些频带只放大它们效果会更好噪声引入也更少。实现思路是用一个可学习的频带掩码对幅度谱做加权放大。掩码的初始化可以用数据的平均功率谱来引导功率谱下降快的地方掩码值高。训练时掩码和主网络一起优化但掩码要加稀疏约束避免它变成全1的平凡解。这个方向我试过一个简化版在交通流量数据上比固定放大提升了约3%的MSE但调参复杂度上升不少适合有充足实验资源的场景。6.2 多尺度放大不同时间尺度用不同策略时间序列的多尺度特征意味着不同时间尺度上的低能量成分有不同的特性。日周期尺度上的低能量成分可能是周周期的谐波小时尺度上的可能是局部波动。用同一个放大函数处理所有尺度难免顾此失彼。多尺度放大的做法是先对序列做小波分解得到不同尺度的子序列然后对每个子序列单独做Amplifier放大参数根据该尺度的信噪比自适应。最后把放大后的子序列重构回原尺度。这个方案的理论依据很充分但实现上小波重构的边界效应和放大后的尺度间对齐都是麻烦事。我目前还在实验阶段初步结果比单尺度好但优势没有想象中那么大可能因为骨干网络本身已经有了一定的多尺度建模能力。6.3 和频域损失函数的联合优化Amplifier是在输入侧做频域增强如果同时在损失函数侧做频域加权两端呼应效果可能更好。具体来说损失函数由时域MSE和频域MSE加权组成频域MSE对低能量频段的误差给更高权重。这样模型不仅在输入时能看到低能量成分在优化时也会被引导去拟合它们。权重设计是关键。我试过用功率谱的倒数作为权重但功率谱接近零的频段权重会爆炸需要加平滑。比较稳的做法是用功率谱的负alpha次方作为权重alpha取0.3到0.5这样低能量频段权重高但不会失控。联合优化的训练时间比单独用Amplifier长约30%因为频域损失需要额外的FFT计算但收敛后的精度通常更好。6.4 在非平稳序列上的局限性Amplifier假设频率成分在时间上是稳定的至少在一个STFT窗口内稳定。对于强非平稳序列比如突变频繁的金融数据或者故障信号这个假设不成立。窗口内的频率成分本身就在变化放大操作可能把瞬态成分错误地放大或者抑制。处理非平稳序列可以考虑用自适应STFT窗长根据信号的局部平稳性动态调整。或者用经验模态分解EMD代替STFTEMD的基函数是从数据本身导出的对非平稳信号更适应。但EMD的计算量大而且模态混叠问题不好解决。我目前对非平稳序列还是倾向于用更短的STFT窗口加更高的重叠率牺牲频率分辨率换取时间分辨率实测下来比EMD稳定。这个方向没有银弹非平稳序列的频域增强本身就是一个开放问题。如果你的数据非平稳性很强建议先做平稳化处理比如差分或者去趋势再用Amplifier这样至少能保证放大操作在一个相对稳定的频谱上进行。我在实际项目里用Amplifier差不多一年时间最大的体会是它不是一个即插即用的万能模块而是一个需要根据数据特性仔细调校的工具。参数不多但每个参数背后的取舍都需要对数据的频谱特性有基本了解。如果你刚开始接触建议先拿一段典型数据做频谱分析看清楚能量分布再决定要不要用、怎么用。另外放大后的序列一定要可视化检查确认放大的确实是结构成分而不是噪声这一步花的时间绝对值回票价。