简介一套基于Stacking框架的弱监督深度学习情感分析研究算法Python完整源码与说明面向自然语言处理、机器学习方向的学生与研究人员适合课程设计、毕业设计及项目实战。代码整合了LSTM、CNN、RNN、贝叶斯、SVM等多类模型并以Stacking集成策略进行融合可用于情感分类任务的训练与对比实验。资源共9个文件包含6个Python源码文件、2个Excel数据集文件及1个Markdown说明文档压缩包大小约994KB结构精简便于快速复用。数据集分为pos.xlsx与neg.xlsx对应正向与负向样本各模型脚本独立可运行说明文档辅助梳理流程。已有72人学习下载适合希望快速搭建情感分析基线、理解弱监督与集成学习思路的读者可直接作为算法实现参考或扩展基础。1. 弱监督Stacking做情感分析不靠海量标注怎么逼近有监督上限手头有两万条商品评论人工只标了三千条单模型准确率卡在82%上不去的时候我走的就是标题里这条路线用弱监督先把剩余数据打上伪标签再用Stacking把多个深度学习模型集成起来做情感分析全程用Python实现。这套方案的核心不是无脑堆模型而是把“不完美的标签”和“模型间的互补差异”同时用起来让最终效果逼近全量人工标注的上限。它适合手里有大批无标注文本、但标注预算只够覆盖几千条的团队也适合做电商评论、舆情监控、社交文本分析并且想快速验证弱监督加集成收益的开发者。读完你会清楚每个模块怎么选、参数怎么定、哪些坑必须绕开。2. 弱监督数据怎么造先解决情感分析里“没标注”的问题做Stacking之前先要回答一个问题训练基学习器的标签从哪来。情感分析任务里人工标注成本高一个熟悉业务的标注员一天只能标几百条跟动辄几万条的评论量相比完全不够用。弱监督的思路是换一个角度先用成本低的信号自动生成一批“弱标签”再用算法把标签里的噪声压到可控范围。这一章说的就是标签生成和清洗因为后面所有模型都建立在标签质量之上这块做不好Stacking再精巧也白搭。2.1 情感词典加规则先打底弱标签生成的三种信号来源常见做法里弱标签来源有三个。第一是情感词典加规则打分适合商品评论和电商文本通用情感词典按当前领域扩充后就能用。第二是远程监督把平台自带评分当作弱标签比如1到2星视为负向、4到5星视为正向中间评分丢弃。第三是表情符号和网络用语辅助“哈哈哈”“绝绝子”“哭了”这类词对情感方向有强指示作用整理成小词典后可以直接参与投票。三种来源里词典加规则最可控也是我一般会优先做的。下面这段代码是词典打分的基础实现注意一个关键处理先把文本按标点切分成子句再分别打分否则“屏幕很好但续航崩了”这类混合情感句子会被正负词直接抵消成零分。import re import jieba import numpy as np negation_words {不, 没, 无, 非, 莫, 别} degree_words { 很: 1.5, 太: 1.6, 极其: 2.0, 稍微: 0.7, 有点: 0.6, 非常: 1.8 } def weak_label_score(text, pos_words, neg_words): # 按标点切分子句避免正负情感互相抵消 clauses re.split(r[;。!?,], text) total 0.0 for clause in clauses: if not clause.strip(): continue words jieba.lcut(clause) score 0.0 neg_flag False degree 1.0 for w in words: if w in negation_words: neg_flag True continue if w in degree_words: degree degree_words[w] continue if w in pos_words: score degree * (-1 if neg_flag else 1) neg_flag False degree 1.0 elif w in neg_words: score - degree * (-1 if neg_flag else 1) neg_flag False degree 1.0 total score return total def generate_weak_label(texts, pos_words, neg_words, low_conf_threshold1.0): labels [] confs [] for t in texts: s weak_label_score(t, pos_words, neg_words) if s low_conf_threshold: labels.append(1) confs.append(abs(s)) elif s -low_conf_threshold: labels.append(0) confs.append(abs(s)) else: labels.append(-1) confs.append(0.0) return np.array(labels), np.array(confs)这里的核心参数是low_conf_threshold它决定哪些样本能进伪标签集。阈值越高留下的样本越少但平均质量越高我一般会从1.0开始观察保留比例如果保留率低于30%说明当前词典对领域覆盖不够优先扩词典而不是降阈值如果保留率高于80%说明阈值太松伪标签里混了大量边界样本。另外要注意对中文要先做分词对英文可以把jieba换成nltk.word_tokenize逻辑完全一样。2.2 多折伪标签清洗别把噪声直接喂给Stacking词典生成的伪标签直接喂给深度学习基学习器风险很大因为词典不认识的表达太多了。常见的做法是再上一道清洗工序训练多个简单模型对无标注数据做预测只有“平均概率高”且“多个模型投票一致”的样本才保留。这些清洗模型不需要很强逻辑回归、朴素贝叶斯、浅层决策树都行它们在这里只是过滤器不是Stacking里的最终基学习器。import numpy as np def filter_pseudo_labels(base_models, X_pseudo, prob_threshold0.8, agree_num2): # base_models: 已训练好的多个清洗模型 preds [] for model in base_models: prob model.predict_proba(X_pseudo) preds.append(prob) avg_prob np.mean(preds, axis0) vote_labels np.argmax(avg_prob, axis1) # 平均概率要足够高同时要求多个模型预测一致 keep_flag avg_prob.max(axis1) prob_threshold hard_preds np.array([np.argmax(p, axis1) for p in preds]) agree_count np.sum(hard_preds vote_labels.reshape(1, -1), axis0) keep_flag agree_count agree_num return vote_labels, avg_prob, keep_flagprob_threshold控制平均置信度agree_num控制最少几个模型给出一致结论。这个组合能过滤掉两件事单一模型的系统性偏置以及所有模型都犹豫不决的模糊样本。我在实际项目中一般先设prob_threshold0.8、agree_num2再看保留样本在人工验证集上的准确率如果低于85%就把阈值往上调到0.9或者把agree_num提到3。保留样本的准确率比保留数量重要得多因为弱监督标记误差会在后面被Stacking两级模型逐层放大。注意清洗模型的训练标签来自第一轮词典伪标签所以如果词典本身方向都反了投票清洗救不回来。先抽几百条人工验一下词典打标的准确率再往后走这块不能省。3. Stacking框架拆开看两级模型各干什么、为什么能互补Stacking的套路是把模型分成两级。第一级是多个基学习器各自独立训练、独立预测输出文本属于每个类别的概率第二级是元学习器它不直接读文本而是把这些基学习器的预测概率当特征学习“在什么情况下该信任哪个基模型”。弱监督场景下这个结构特别合适因为基学习器吃的是带噪声的伪标签各自的错误不会完全相同元学习器有机会把错误模式学出来并做校正。3.1 深度学习基学习器的特征输出从softmax到元特征情感分析里的基学习器适合用深度学习模型因为文本情感语义抽象textCNN、BiLSTM、BERT这类模型能学到不同层面的特征错误模式差异大集成互补性强。第一级模型输出的是softmax概率不是硬标签这一点非常关键。概率0.51和概率0.99对元学习器来说含义完全不同前者表示模型在猜后者表示模型很确定丢掉概率直接取argmax等于把信息全扔了。把多个基学习器的输出拼成元特征代码很简单import numpy as np def build_meta_feature(base_scores, concat_originalNone): # base_scores: list of ndarray每个元素形状为 (n_samples, n_classes) # 这里把每个基学习器的预测概率横向拼接 meta_feat np.hstack(base_scores) # 可选把文本长度、情感词典得分等传统特征也拼接进去 if concat_original is not None: meta_feat np.hstack([meta_feat, concat_original]) return meta_feat假设三个基学习器做二分类每个输出形状是(n, 2)拼接后元特征就是(n, 6)。我一般会再拼一到两个统计特征比如评论长度、否定词数量、情感词典原始得分这些手工特征在元学习器那一层往往能补上深度模型忽略的显式信号。注意拼接前必须确认所有基学习器都在相同的样本顺序上做预测否则特征错位会让元学习器学到完全错误的关系。3.2 元学习器选LR还是GBDT参数和适用边界元学习器不需要复杂常用的三种选择各有边界。我列个对比表方便你按自己的场景直接选元学习器弱监督下的表现优点需要留意的点Logistic Regression最稳特征权重可解释不容易被弱标签噪声带偏概率特征最好先做标准化Random Forest中上能利用特征交互不用归一化对概率特征有截断区分度不如LR细腻LightGBM强但易过拟合拟合非线性关系快适合大样本弱标签噪声大时容易把噪声也学进去要调小num_leaves弱监督场景我一般先用逻辑回归因为它本质上是给每个基学习器的概率做线性加权权重直接反映该模型在整体上的可信程度调出来之后还能拿来做诊断某个基学习器权重接近零说明它提供的信息和其他模型重复或者质量太差。数据量很大、基学习器数量也多的时候再换LightGBM但要把num_leaves控制在16以下learning_rate设0.03左右防止元模型在伪标签噪声上过拟合。3.3 训练集元特征必须来自OOF一个被忽略的细节训练元学习器时基学习器对训练集样本的输出不能来自它自己的训练过程。原因很简单模型见过这些样本预测概率普遍偏高元学习器会学到“概率0.95以上必然是正向”这种虚假规律到测试集上概率没那么极端立刻翻车。正确做法是用交叉验证生成out-of-fold预测每个样本的预测都来自一个没把该样本纳入训练集的模型实例。from sklearn.model_selection import StratifiedKFold def train_base_with_oof(model_fn, X, y, n_splits5, random_state42): oof np.zeros((X.shape[0], 2)) skf StratifiedKFold(n_splitsn_splits, shuffleTrue, random_staterandom_state) for tr_idx, va_idx in skf.split(X, y): clf model_fn() clf.fit(X[tr_idx], y[tr_idx]) oof[va_idx] clf.predict_proba(X[va_idx]) return oofn_splits在数据量上万时用5几千条时用3太少的话OOF估计会偏。这个步骤不能跳过它是Stacking里最容易被忽略也最值得检查的一环。提示想快速判断元特征有没有泄露可以把OOF概率和对应标签做点互信息分析泄露特征的分布会过于尖锐和干净OOF特征的分布差异非常明显。4. 用Python跑通全套源码目录结构、训练流程与调参理论部分立住之后落到工程上需要一套清晰的组织结构。下面这个目录结构是这类情感分析项目最常见的分层方式核心思路是数据、特征、模型严格分离每个环节的产出都能单独检查和替换。4.1 目录结构与配置文件数据、特征、模型三层分离stack_sentiment/ ├── config/ │ └── stack_config.yaml ├── data/ │ ├── raw/ # 原始评论文本和少量人工标签 │ ├── pseudo_label/ # 词典和投票清洗后的伪标签 │ └── processed/ # 统一编码后的训练/测试输入 ├── features/ # 基学习器OOF输出和元特征 ├── models/ # 基学习器权重和元学习器权重 ├── scripts/ │ ├── generate_weak_label.py │ ├── train_base_models.py │ ├── build_meta_features.py │ └── train_meta_model.py └── results/ # 最终预测结果和指标配置文件统一管理所有超参数避免每次跑实验都改代码data: train_file: data/processed/train.csv pseudo_file: data/processed/pseudo_clean.csv test_file: data/processed/test.csv text_col: comment label_col: label base_models: - name: text_cnn max_len: 128 embed_dim: 100 epochs: 6 batch_size: 64 - name: bilstm_attn max_len: 128 embed_dim: 100 hidden_dim: 128 epochs: 6 batch_size: 64 - name: bert_mini max_len: 64 epochs: 3 batch_size: 32 meta_model: name: logistic_regression C: 1.0 max_iter: 500 stacking: oof_splits: 5 random_state: 42max_len控制输入序列长度文本平均长度只有几十字时设64就够太长浪费显存太短丢信息。bind_models里我习惯放两个结构差异大的轻量深度模型加一个预训练模型这样基学习器之间的预测结果既有差异又有质量。机器带不动BERT-mini时把最后一个换成fasttext文本分类模型也能进Stacking框架不挑模型类型。4.2 基学习器训练与样本加权参数怎么定深度学习基学习器里textCNN是性价比最高的起步模型。下面这段是常见实现卷积核尺寸选2、3、4目的是捕捉不同长度的局部n-gram特征import torch import torch.nn as nn class TextCNN(nn.Module): def __init__(self, vocab_size, embed_dim100, num_filters128, num_classes2): super().__init__() self.embed nn.Embedding(vocab_size, embed_dim, padding_idx0) self.convs nn.ModuleList([ nn.Conv1d(embed_dim, num_filters, k) for k in (2, 3, 4) ]) self.fc nn.Linear(num_filters * 3, num_classes) def forward(self, x): emb self.embed(x).transpose(1, 2) # (B, embed_dim, seq_len) pooled [torch.max(torch.relu(conv(emb)), dim2).values for conv in self.convs] feat torch.cat(pooled, dim1) return self.fc(feat)embed_dim用100是词向量常用的维度num_filters设128在评论级别数据上足够。训练循环里一定要处理伪标签置信度把弱标签样本的loss按置信度加权人工标签权重为1低置信伪标签自然降权def train_one_epoch(model, loader, optimizer, criterion, sample_weightNone): model.train() total_loss, correct, total 0.0, 0, 0 for x, y, w in loader: logits model(x) loss criterion(logits, y) # reductionnone得到逐样本loss if sample_weight is not None: loss (loss * w).mean() optimizer.zero_grad() loss.backward() optimizer.step() preds logits.argmax(dim1) correct (preds y).sum().item() total y.size(0) total_loss loss.item() return total_loss / len(loader), correct / total这里w就是前面伪标签清洗时保留的置信度人工标注样本固定为1.0。如果不加这个权重低置信伪标签和高质量人工标签在loss里地位一样模型会被噪声样本慢慢带偏训练loss降得很快但人工验证集F1一直波动。4.3 元学习器训练与最终预测命令行一次跑完完整流程顺序是先生成和清洗伪标签再训练三个基学习器并生成OOF预测然后拼接元特征最后训练元学习器。命令行方式如下pip install -r requirements.txt python scripts/generate_weak_label.py \ --input data/raw/raw_comments.csv \ --dict_dir config/lexicon/ \ --min_threshold 1.0 python scripts/train_base_models.py \ --config config/stack_config.yaml \ --save_dir models/checkpoints/ python scripts/build_meta_features.py \ --config config/stack_config.yaml \ --checkpoints models/checkpoints/ \ --out_dir features/ python scripts/train_meta_model.py \ --config config/stack_config.yaml \ --meta_feature features/meta_train.npy \ --label data/processed/train.csv \ --test_feature features/meta_test.npy \ --out_dir results/元学习器训练内部实际上就是一次带交叉验证的逻辑回归from sklearn.linear_model import LogisticRegression from sklearn.model_selection import cross_val_score meta_model LogisticRegression(C1.0, max_iter500) cv_score cross_val_score(meta_model, X_meta_train, y_train, cv5, scoringf1_macro) print(meta cv f1:, cv_score.mean()) meta_model.fit(X_meta_train, y_train) y_prob meta_model.predict_proba(X_meta_test)C值在弱监督场景下我建议从1.0往下调比如0.5正则强一点能压制元特征里的噪声如果验证集和测试集差距比较大优先怀疑的不是C而是基学习器OOF没做对。5. 避坑指南弱监督Stacking的五个高频翻车点这一章写的是我在类似项目里真实踩过的坑每个都按现象、原因、解决的顺序说清楚遇到问题可以直接对照排查。5.1 伪标签噪声大集成后比单模型更差现象单模型准确率82%加完Stacking反而掉到79%元学习器训练得越认真结果越差。 原因伪标签本身准确率不足基学习器在噪声标签上学到的错误模式在Stacking第二级被再次组合放大元学习器把“噪声之间的相关性”当成了有效规律。 解决回到清洗环节把prob_threshold从0.8提到0.9agree_num从2提到3宁可保留样本少一半也要保证伪标签准确率。我在项目中定的硬标准是保留的伪标签在人工抽验里准确率不低于90%否则不进训练集。5.2 基学习器同质化Stacking增益趋近于零现象三个基学习器都做BERT微调Stacking之后F1只提升0.3%等于白做。 原因同质模型在相同训练数据上的错误高度相关元学习器根本没有互补信息可以利用。 解决把基学习器换成结构差异明显的组合textCNN加BiLSTM加attention模型加预训练模型甚至加入一个只吃情感词典特征的逻辑回归模型差异越大Stacking的可学信息越多。判断差异的方式很简单看三个模型预测不一致的样本占比低于15%就说明同质化严重需要换模型。5.3 验证集分数虚高测试集明显掉点现象交叉验证F1高达95%测试集只有82%差距大到不合理。 原因元特征泄漏。基学习器对训练集样本的预测来自自身训练过程模型“见过”这些样本输出概率偏高元学习器学到了过于乐观的映射关系测试时模型不会给出同等强度的概率立刻暴露。 解决所有进入元学习器训练集的基学习器输出都必须来自OOF预测不能直接用model.predict(train_x)。检查方法也很简单统计OOF概率的均值如果偏高比如二分类平均概率超过0.85基本可以判断泄漏了重新用交叉验证生成。5.4 弱标签被当硬标签学模型越训越偏现象训练loss稳定下降但在人工标注验证集上F1忽高忽低模型预测结果明显偏向某一种情感。 原因伪标签虽然经过了清洗但置信度信息没有进入损失函数低置信样本和高质量人工标签在loss里权重一样模型把它们一视同仁地当硬标签学。 解决在训练循环里给每个伪标签样本乘上置信度权重人工标签权重为1伪标签权重等于清洗阶段的平均概率或投票一致数。这块代码在第4.2节里已经写过不要省掉那个sample_weight参数。5.5 特征拼接shape对不上程序直接报错现象跑build_meta_features.py时抛ValueError: shapes not aligned或者预测结果和测试集对不上。 原因三个常见来源——基学习器用的max_len不一致导致预测输出条数不同某个模型在测试集上做了shuffle预测顺序和原始测试集不一致训练集和测试集拼接时维度没对齐。 解决统一所有基学习器的max_len推理阶段把batch推理改为按原始样本顺序逐批返回并直接写入numpy数组拼接前打印每个输入特征的shape逐行核对。这个小问题在模型数量少时不出事一旦加到三四个模型拼接顺序乱的概率会明显上升。6. 一个进阶技巧把置信度做成元特征让元模型学会质疑只把基学习器的原始概率拼接成元特征元学习器能学到的信息仍然有限它看到概率0.52和概率0.99能区分高低但不知道0.52这个值背后是“两个类别都接近”还是“模型在瞎猜”。一个有效的做法是额外加入两个特征熵和类别间间隔。熵衡量模型对样本的确定程度间隔衡量最大概率和次大概率之间的差距差距很大说明存在压倒性优势差距很小说明模型在边界上挣扎。import numpy as np def build_confidence_features(prob_list): feats [] for prob in prob_list: p np.clip(prob, 1e-7, 1.0) ent -np.sum(p * np.log(p), axis1, keepdimsTrue) sorted_p np.sort(prob, axis1) margin (sorted_p[:, -1] - sorted_p[:, -2]).reshape(-1, 1) feats.append(prob) feats.append(ent) feats.append(margin) return np.hstack(feats)如果元学习器用逻辑回归记得把熵和间隔做标准化再进模型因为它们的量纲不同不做标准化会让正则惩罚失效改用树模型则不需要这一步。这个技巧在弱监督场景特别有效因为它让元学习器学到的不是“哪个模型更好”而是“哪个模型在什么置信状态下更可信”。我自己用来判断集成价值的办法是每次跑完先看单一最强基学习器的F1再看Stacking后的F1差距低于1.5%就不值得维护整套复杂管线优先回头优化伪标签质量。后续如果业务从文本情感分析扩展到多模态情感分析把图像或语音模型当作新的基学习器加进Stacking即可上层元特征逻辑不用改。这是我多次踩坑后固定的工作习惯希望帮到你。本文还有配套的精品资源点击获取