简介这份资源是面向NLP情感分析新人的微博内容分类实战源码适合刚接触深度学习文本分类、希望跑通完整项目流程的学习者。项目围绕微博语料展开覆盖数据分析、文本预处理、词向量构建、模型训练与测评等环节并配有博主博客文字教程对零基础读者较为友好。压缩包共25个文件约3.06MB包含9个Python脚本、7张训练过程图、5个文本数据文件以及json、bin、pyc等配置与模型文件分别承担数据处理、模型定义、训练评估和结果可视化等职责。目录中可见LSTMAttention、BiGRU等模型实现以及词向量、数据加载、预处理等模块便于对照理解情感分类的完整链路。目前已有3068人学习下载读者可借此掌握从原始微博文本到分类结果的落地方法并参考损失与准确率曲线排查训练问题。1. 微博情感分类项目从数据到 LSTM-Attention 的完整落地路径微博短文本的情感分类是很多 NLP 新人接触深度学习的第一个真实场景。它不像教科书里的 IMDB 影评那样干净规整微博里全是表情符号、网络缩写、话题标签、 提及还有大量反讽和口语化表达。这个weiboSentimentAnalysis.zip资源包就是围绕这个场景做的一套完整实战代码覆盖了从原始数据清洗、分词、词向量训练到 BiGRU、LSTM-Attention 两种模型搭建、训练、评估的全流程。它适合刚学完 PyTorch 或 TensorFlow 基础、想找一个能跑通的中文情感分类项目练手的人也适合需要快速搭一个微博情感分析 baseline 的从业者。包里带了训练好的词向量文件、多组超参数对应的 Loss/Acc 曲线图以及一份中文停用词表省去了自己从头收集语料的麻烦。下面我按实际拆包的顺序把这份资源怎么用、参数怎么调、哪里容易翻车讲清楚。2. 拆包先看结构数据、模型、配置三块怎么分工拿到一个源码包我习惯先不急着跑main.py而是把目录结构摸一遍。这个项目的组织方式比较清晰核心逻辑集中在几个 Python 文件里数据和模型权重分开存放。理解这个分工后面改代码、换数据、调参才不会乱。2.1 数据层train.txt、test.txt 与 word2id.json 的关系datasets目录下有几个关键文件train_org.txt、test_org.txt是原始数据train.txt、test.txt是预处理后的版本word2id.json是词到 ID 的映射表。preprocess.py负责把原始文本转成模型能吃的格式data_loader.py负责按 batch 喂给模型。这里有个容易忽略的点word2id.json是在训练集上构建的测试集里如果出现训练集没见过的词会被统一映射到UNK。所以如果你换了自己的数据一定要重新跑一遍preprocess.py否则词表对不上模型输出全是乱码。常见做法是先用gensim_word2vec.py在更大规模的语料上训练词向量再拿word2id.json做对齐。包里已经带了word2vec.bin可以直接加载。如果你想用自己的词向量注意维度要和模型里的embedding_dim保持一致否则加载时会报 shape 不匹配。2.2 模型层bigru.py 与 lstm_attention.py 的选型差异model目录下有两个模型文件bigru.py是双向 GRUlstm_attention.py是 LSTM 加注意力机制。两者都是情感分类的经典结构但适用场景略有不同。BiGRU 参数量相对少训练速度快适合数据量不大、想快速出结果的场景。LSTM-Attention 多了注意力层能对句子中关键情感词赋予更高权重理论上对长文本和复杂句式更友好但训练时间更长过拟合风险也更高。我一般会先跑 BiGRU 看 baseline如果准确率卡在某个值上不去再换 LSTM-Attention 试。包里images目录下的 Loss 和 Acc 曲线图就是不同超参数组合下的训练记录可以直接对比。2.3 配置层configuration.py 里哪些参数必须改configuration.py是整个项目的控制中心模型路径、数据路径、超参数都在这里。几个必须关注的参数参数名含义建议值embedding_dim词向量维度与 word2vec.bin 一致常见 128 或 256hidden_dimLSTM/GRU 隐藏层维度128 或 256太大容易过拟合batch_size每批样本数64 或 128显存不够就调小learning_rate学习率0.001 起步不收敛再降dropout丢弃率0.5 左右防止过拟合num_epochs训练轮数50 到 100看 Loss 曲线早停这些参数不是孤立的。比如你把hidden_dim从 128 调到 256dropout最好也跟着调高一点否则训练集准确率会飙得很快验证集却不动。包里e100_b64_h128_lr0.0001_drop0.5_wd0.0005_Loss.png这种命名方式已经把 batch size、hidden dim、学习率、dropout、weight decay 都标出来了方便你对照。3. 跑通训练从预处理到模型评估的完整命令链结构清楚之后就可以按顺序执行了。这个项目的流程是预处理 → 训练词向量可选→ 加载数据 → 训练模型 → 评估。每一步都有对应的脚本下面按实际操作顺序走一遍。3.1 预处理preprocess.py 做了什么preprocess.py的主要任务是对原始微博文本做清洗和分词。常见做法是去掉 URL、 提及、话题标签符号保留表情符号的文本描述然后用 jieba 分词再过滤停用词。# preprocess.py 核心逻辑示意 import jieba import re def clean_text(text): # 去掉 URL text re.sub(rhttp[s]?://\S, , text) # 去掉 提及 text re.sub(r[\w\u4e00-\u9fa5], , text) # 去掉话题标签的 # 符号保留内容 text re.sub(r#([^#])#, r\1, text) return text.strip() def tokenize(text, stopwords): words jieba.lcut(text) return [w for w in words if w not in stopwords and len(w) 1]逻辑说明clean_text负责去掉噪声tokenize负责分词和停用词过滤。len(w) 1是为了过滤掉单字微博里单字噪声比较多。停用词表用的是包里的中文停用词词表.txt直接加载成 set 就行。参数说明如果你发现分词结果里有很多无意义的词可以调整len(w) 1这个阈值或者扩充停用词表。注意不要过滤太狠否则情感词也被删了模型学不到东西。3.2 词向量gensim_word2vec.py 的训练与加载包里已经带了word2vec.bin可以直接用。如果你想在自己的语料上重新训练跑gensim_word2vec.py就行。# gensim_word2vec.py 核心逻辑示意 from gensim.models import Word2Vec sentences [[微博, 情感, 分析], [今天, 心情, 很好]] model Word2Vec(sentences, vector_size128, window5, min_count2, workers4) model.save(word2vec.bin)逻辑说明vector_size是词向量维度必须和configuration.py里的embedding_dim一致。window是上下文窗口大小微博短文本一般 3 到 5 就够。min_count2表示出现次数少于 2 的词直接丢弃减少噪声。参数说明如果你的语料很大可以把min_count调到 5 甚至 10这样词表更干净。workers是并行线程数根据 CPU 核数调整。训练完之后用model.wv可以获取每个词的向量再和word2id.json对齐构建 embedding 矩阵。3.3 训练与评估main.py 的启动与日志解读main.py是入口脚本负责加载配置、构建模型、训练、评估。直接运行python main.py --model bigru --epochs 50 --batch_size 64 --lr 0.001逻辑说明--model指定用哪个模型--epochs是训练轮数--batch_size和--lr覆盖配置文件里的默认值。训练过程中会打印每个 epoch 的 Loss 和 Accuracy训练结束后会在测试集上跑一次评估。参数说明如果显存不够把batch_size降到 32 或 16。如果 Loss 震荡厉害把lr降到 0.0005 或 0.0001。如果训练集准确率很高但测试集很低说明过拟合了调高dropout或加 weight decay。analysis.py是辅助脚本用来画 Loss 和 Acc 曲线或者做错误分析。包里images目录下的图就是用它生成的。你可以拿自己的训练日志跑一遍看看曲线是否正常。4. 避坑与排查微博情感分类里最容易翻车的五个点这个项目整体跑通不难但微博数据本身有很多坑加上深度学习训练的不确定性新手很容易卡在某个环节。下面是我实际踩过的五个坑按「现象 → 原因 → 解决」整理。4.1 现象训练 Loss 一直不降准确率在 50% 左右晃原因最常见的是词表和词向量对不上。word2id.json里的词 ID 和word2vec.bin里的词向量顺序不一致导致 embedding 矩阵加载错位。另一个可能是学习率太大模型直接发散了。解决先检查word2id.json和word2vec.bin是不是同一次预处理生成的。如果不是重新跑一遍preprocess.py和gensim_word2vec.py。然后看 Loss 曲线如果一开始就飙到很大把学习率降到 0.0001 再试。4.2 现象测试集准确率比训练集低很多差距超过 20%原因过拟合。微博数据噪声大模型很容易记住训练集里的特定表达换到测试集就不行了。hidden_dim太大、dropout太小、训练轮数太多都会加剧这个问题。解决先把dropout从 0.5 调到 0.6 或 0.7再把hidden_dim从 256 降到 128。如果还不行加 L2 正则weight decay 设 0.0005 到 0.001。包里e50_b64_h128_lr0.001_drop0.5_wd0.0005_Acc.png这种配置就是比较稳的起点。4.3 现象分词结果里全是单字模型学不到词级语义原因jieba 默认分词对微博文本不太友好网络新词、缩写、表情符号经常被切成单字。加上停用词表过滤太狠把一些情感词也删了。解决换用 jieba 的搜索引擎模式或者加载自定义词典。停用词表不要直接用网上的通用版要根据微博场景调整保留「不」「没」「很」这类情感修饰词。preprocess.py里的len(w) 1也可以改成len(w) 0先看看效果。4.4 现象训练到一半突然报 CUDA out of memory原因batch_size太大或者hidden_dim太大显存扛不住。LSTM-Attention 比 BiGRU 更吃显存因为注意力层要存额外的中间状态。解决先把batch_size减半从 64 降到 32。如果还不行把hidden_dim从 256 降到 128。另外训练时可以用torch.cuda.empty_cache()手动清理缓存但根本办法还是调小模型或 batch。4.5 现象换了新数据后模型输出全是同一个类别原因新数据的标签分布和训练集差异太大或者标签编码没对齐。比如训练集里 0 是负面、1 是正面新数据里反过来了模型就全预测成多数类。解决先看label_distrubution.png确认标签分布。如果新数据类别不平衡用加权损失函数或者重采样。然后检查data_loader.py里的标签映射逻辑确保和训练时一致。换数据后一定要重新跑preprocess.py重新生成word2id.json。5. 进阶技巧用注意力权重做错误分析与模型迭代跑通 baseline 只是第一步真正让模型变好的是持续的错误分析。这个项目里的 LSTM-Attention 模型有一个隐藏价值注意力权重可以可视化帮你看到模型到底在关注哪些词。下面是我常用的一个分析流程结合analysis.py和注意力输出定位模型犯错的模式。5.1 提取注意力权重并定位关键情感词在lstm_attention.py里注意力层的输出通常是一个权重向量长度等于句子长度。你可以在 forward 里把权重存下来训练结束后拿几条预测错误的样本看看模型把注意力放在了哪里。# 在 lstm_attention.py 的 forward 中保存注意力权重 def forward(self, x): # ... LSTM 编码 ... attn_weights torch.softmax(score, dim1) # [batch, seq_len] context torch.bmm(attn_weights.unsqueeze(1), lstm_out).squeeze(1) self.attn_weights attn_weights # 保存下来供分析 return self.fc(context)逻辑说明attn_weights是每个时间步的权重越大表示模型越关注那个词。torch.bmm是批量矩阵乘法把权重和 LSTM 输出加权求和得到句子级别的表示。参数说明如果你发现注意力总是集中在句首或句尾可能是 padding 没处理好。检查data_loader.py里的 padding 逻辑确保 padding 位置的权重被 mask 掉。5.2 用错误样本反推数据问题拿几条预测错误的样本把注意力权重最高的词标出来通常能发现几类问题一是反讽句模型只看到正面词没理解整体语气二是双重否定模型被「不」和「差」的组合搞晕三是表情符号文本描述和实际情感相反。针对反讽可以在预处理阶段加一些规则或者引入外部知识。针对双重否定可以尝试用字符级模型或者 BERT 这类预训练模型。针对表情符号可以把表情的文本描述单独作为一个特征拼进去。5.3 迭代策略从 BiGRU 到 LSTM-Attention 再到预训练模型这个项目给了两个模型但实际工作中我一般会按这个顺序迭代先跑 BiGRU 拿到 baseline再换 LSTM-Attention 看注意力有没有帮助如果还不够就上 BERT 微调。微博情感分类的数据量通常不大BERT 微调在小数据集上往往比从头训练 LSTM 效果好。但 BERT 的代价是推理速度慢、显存占用高。如果线上要求低延迟LSTM-Attention 仍然是性价比很高的选择。包里e100_b64_h128_lr0.0001_drop0.5_wd0.0005_Acc.png这种配置训练 100 轮后准确率能到多少你可以自己跑一遍对比。从那以后我每次拿到一个新的情感分类任务都会先跑一遍这个项目的 BiGRU 和 LSTM-Attention把两条曲线画在一起再决定要不要上预训练模型。这个习惯帮我省了很多盲目调参的时间。希望帮到你。本文还有配套的精品资源点击获取