简介这是一份面向机器学习初学者的编程作业资源聚焦垃圾邮件分类任务帮助学习者通过构建与训练分类模型实现邮件自动识别与过滤。压缩包总体仅874KB内部文件未单独统计内容围绕练习代码、实验数据集及指导文档展开适合作为课程实验或课后练手的配套材料。该资源在CSDN上已有542人学习热度尚可。作业覆盖了从数据预处理到模型评估的完整流程文本分词、停用词过滤与词干提取属于基础步骤特征工程可构造词汇频率、邮件长度等指标朴素贝叶斯、SVM、逻辑回归等算法均可用于分类建模再通过交叉验证与准确率、F1分数等指标评估性能还可借助特征重要性或LIME分析模型解释性。完成该实验学习者不仅能巩固分类算法的理论原理还能锻炼数据清洗、特征构造和超参数调优等实战技能是衔接课堂理论与实际应用的良好练习。1. 垃圾邮件分类编程作业不是跑个准确率就完事的 ex6我拆这份机器学习编程作业垃圾邮件分类.7z 时第一反应是垃圾邮件分类是机器学习里少有的“特征工程决定上限”的任务。数据里那几千封原始邮件大部分是 HTML 标签、URL 和大小写混乱的散装英文模型再高级喂进去不干净照样翻车。这套以 machine-learning-ex6 命名的压缩包内含数据集、练习代码和指导文档覆盖从邮件清洗、词干提取、词频向量化到 SVM 训练的完整链路正好能把 NLP 文本分类的整套基本功练一遍。适合正在刷机器学习期末、准备复试八股或者想跑通一个短平快分类项目的从业者。文件里的作业不是拿准确率装点门面而是逼你把每个环节的边界和坑都摸一遍这也是我把它拆开重写的原因。2. 数据预处理与特征工程从原始邮件到词向量的完整链路2.1 原始邮件清洗HTML 标签、URL 与大小写归一化打开数据集里的 spam 目录我第一眼看见的是满屏被截断的 HTML 片段、超长链接和 Base64 编码的附件残留。邮件不是干净的文本直接拿来做特征模型学到的会是“这一行有一个符号”这种毫无意义的模式。实操里我按顺序做四件事import re def clean_email(raw: str) - str: # 去掉 HTML 标签[^] 匹配尖括号包裹的内容 text re.sub(r[^], , raw) # 把 URL 整体替换成占位符 httpaddr避免把域名拆成碎词 text re.sub(r(http|https)://\S, httpaddr , text) # 替换邮箱地址为 emailaddr text re.sub(r[\w\.-][\w\.-], emailaddr , text) # 数字和金额统一成 number 和 dollar text re.sub(r\d, number , text) text re.sub(r\$\s*number, dollar number , text) # 剩下的标点符号统一替换成空格 text re.sub(r[^\w\s], , text) # 全部转小写后续统计词频时才能把 Hello 和 hello 合并 return text.lower()逻辑说明清洗的顺序是有讲究的。先去掉 HTML 标签再处理 URL是因为 URL 里往往带着标点和数字如果先转数字再处理 URL会把链接里的数字也一并替换掉反而污染特征。我一般把 URL、邮箱地址先换成占位符而不是直接删掉因为“邮件里出现链接”这件事本身就是强特征——正常邮件有链接的比例比垃圾邮件低得多删掉等于丢掉一条线索。参数说明正则里\S匹配非空白字符[\w\.-][\w\.-]是简化版邮箱匹配够用就好不用上 RFC 5322 那种严格正则。把数字替换成number、金额替换成dollar是这套作业里的经典做法它保留“邮件里是否有金额数字”这个语义而不是简单抹掉。实际语料里很多广告邮件和代开发票邮件都靠这些标记词暴露身份替换后再传给模型比直接删数字多保留一层信息。2.2 分词与词干提取Porter Stemmer 为什么够用清洗完之后是分词。英语邮件直接按空白切分就可以不需要上 jieba。但直接切分有个问题buy、buys、buying、bought会被当成四个不同的特征。垃圾邮件几乎不会用一个词的原形它们喜欢在动词后面加 s 和 ing特征维度被撑爆训练集和测试集的词表对齐也会出问题。from nltk.stem import PorterStemmer import nltk nltk.download(punkt) stemmer PorterStemmer() def tokenize_and_stem(text: str) - list[str]: tokens text.split() # 去掉长度小于等于 1 的 token过滤掉清洗后留下的孤立单词 tokens [t for t in tokens if len(t) 1] # 词干提取把复数、过去式、进行时还原成同一个词干 stems [stemmer.stem(t) for t in tokens] return stems逻辑说明Porter Stemmer 是规则驱动的词干提取算法它把studies还原成studi把playing还原成play虽然不保证输出是合法单词但能保证同一个词族落到同一个桶里。和词形还原相比它不需要庞大的词典查询几百毫秒就能处理完整个训练集。对垃圾邮件分类这个任务词干提取带来的收益通常比词形还原更高因为垃圾邮件本来就在故意不规则拼写词干提取对变形更鲁棒。参数说明nltk.download(punkt)是给分词器下载模型数据如果离线环境装不了直接用text.split()顶替也完全可以这个场景下不会差太多。过滤掉长度 1 的 token 能去掉大量a、i这种噪音但注意不要过滤长度 3 的词sex和win这类短词在垃圾邮件里出现频率极高是强特征。这里有一个非常反直觉的坑不要在清洗流程里做停用词过滤。很多教程把停用词表当万能药但在垃圾邮件分类里free、offer、now恰恰是高频判别词停用词表把它们划走模型直接废掉一半这个我在后面的避坑章还会展开。2.3 词表构建与向量化两个 Vectorizer 的差异词干提取完成后需要把所有文档的词表统一。作业给的词汇表文件是vocab.txt每行一个词按出现频率排序。一般做法是直接读它构建索引而不是自己从语料里统计这样能保证和作业测试脚本的特征顺序一致。from sklearn.feature_extraction.text import TfidfVectorizer # 读取作业自带的词汇表大约 1899 个词 vocab {} with open(vocab.txt, r, encodingutf-8) as f: for line in f: idx, word line.split() vocab[int(idx) - 1] word # 行号从 1 开始转成 0 基索引 # 用自定义 tokenizer 固定词表构建向量器 vectorizer TfidfVectorizer( tokenizertokenize_and_stem, vocabularylist(vocab.values()), min_df1 ) # X_spam 是垃圾邮件文本列表X_ham 是正常邮件文本列表 X_all vectorizer.fit_transform(spam_emails ham_emails) y_all [1] * len(spam_emails) [0] * len(ham_emails) print(f特征矩阵形状: {X_all.shape}) # (样本数, 1899)逻辑说明vocabulary参数直接锁定特征空间保证每个样本都映射到同一个 1899 维向量上。这一步是作业里最容易翻车的地方——如果训练时用 fit 重新学词表测试时又用另一个词表特征维度对不上模型直接报错。固定词表还有一个好处新邮件进来时词表外的词会被自动忽略不会导致维度变化。参数说明min_df1表示词至少在 1 个文档里出现就保留因为我们用的是固定词表这个参数基本不会生效设置它的作用是防止 sklearn 对空文本报 warning。TfidfVectorizer默认对词频做 L2 归一化对邮件长度差异很大的语料这个默认设置比裸CountVectorizer更稳。如果你想省事直接CountVectorizer也行但 SVM 对特征数值的尺度敏感TF-IDF 的归一化能让 SVM 少走很多弯路。如果你的语料只有几百封邮件不妨试试不归一化的原始词频——线性核在稀疏词频上并不吃亏这点在模型选型章里细说。到这里原始邮件已经被处理成一个(样本数, 1899)的稀疏矩阵后面所有分类算法都在这上面跑。数据预处理的核心就是把“非结构化文本”翻译成“结构化数值特征”这一步的每一步都是后面模型的边界条件。3. 分类模型选型朴素贝叶斯、SVM 与逻辑回归的取舍3.1 朴素贝叶斯条件独立假设下的经典基线垃圾邮件分类最早期的生产级方案就是朴素贝叶斯。它假设每个特征在给定类别条件下相互独立——这个假设在邮件场景里其实站不住脚但稀疏高维文本上它依然很能打。因为它对小样本、高维特征不敏感训练只需要一次遍历计数甚至不需要迭代求解跑在低配机器上毫无压力。from sklearn.naive_bayes import MultinomialNB from sklearn.model_selection import train_test_split from sklearn.metrics import classification_report X_train, X_test, y_train, y_test train_test_split( X_all, y_all, test_size0.3, random_state42, stratifyy_all ) nb MultinomialNB(alpha1.0) nb.fit(X_train, y_train) y_pred nb.predict(X_test) print(classification_report(y_test, y_pred, target_names[ham, spam]))逻辑说明MultinomialNB适用于多项式分布的特征也就是“词在文档里出现的次数”或 TF-IDF 值。alpha1.0是拉普拉斯平滑系数防止某个词只在训练集某一类里出现导致测试时条件概率直接为 0。平滑系数调大模型会趋于保守对稀有词的响应变弱调小则更容易学到小概率词。参数说明如果特征矩阵用的是 TF-IDF特征值不再是整数计数MultinomialNB依然能算但概率意义会打折扣想要严格一点就换BernoulliNB它只关心“词出现没出现”很多生产垃圾邮件过滤器用的就是它。我这里保留MultinomialNB是因为它在这套作业数据集上的准确率通常足够好而且调参空间小适合当基线。alpha参数可以扫一遍[0.1, 0.5, 1.0, 2.0]在这个数据集上基本不会差出 1% 去。为什么拿它当基线而不是随机森林因为文本特征维度上千树模型在每个节点上只能看到特征的一个子集而垃圾邮件分类依赖的是大量弱特征的组合朴素贝叶斯恰好能把这些弱信号全部纳入计算。先跑通一个不调参的朴素贝叶斯得到一个参考 F1再去判断 SVM 带来的提升值不值得它的训练成本。3.2 SVM为什么作业里非要用它作业正文里大量篇幅给了 SVM这不是没道理的。垃圾邮件的文本向量化后是典型的稀疏高维数据样本数通常只有几百到几千远小于特征数。这种“高维小样本”场景正好命中 SVM 的看家本领它对维度不敏感而且 RBF 核能隐式地做特征交叉。但代价是计算复杂度随样本数增长变快样本过万后训练时间会肉眼可见地飙升。from sklearn.svm import SVC svm SVC(kernelrbf, C1.0, gamma0.5, probabilityTrue) svm.fit(X_train, y_train) y_pred_svm svm.predict(X_test) print(SVM 测试集准确率:, (y_pred_svm y_test).mean())逻辑说明C是误分类惩罚系数C越大模型越倾向于让训练集全部正确容易过拟合gamma是 RBF 核的带宽gamma越大每个训练样本的影响范围越小决策边界越曲折。在这个 1899 维特征矩阵上我一般从C1.0, gamma0.5起步再用网格搜索微调。这两个参数一旦组合不当SVM 的表现会直接从 97% 掉到 85%而且没有任何报错提示属于典型的“黑匣子”问题。参数说明kernelrbf是默认选择但对这个规模的文本分类线性核往往也能达到差不多的准确率而且训练速度快十倍、结果可解释性更强。作业里让你用 RBF是为了练调参手感实际生产里我反而优先试linear。另外probabilityTrue会启用 Platt 缩放给 SVM 输出概率这会显著拖慢训练速度如果不是后面要画 ROC 曲线可以直接不开。有一个很实际的坑SVM 对特征尺度很敏感。虽然 TF-IDF 已经做了 L2 归一化但不同词的特征分布差异还是很大如果换成词频矩阵最好先用StandardScaler归一化再喂给 SVM否则 RBF 核的gamma参数会变得非常难调训练时间也会变长。3.3 逻辑回归可解释性与工程落地的折中如果让我在公司里做一个最小可用的垃圾邮件过滤器我会选逻辑回归而不是 SVM。原因不是准确率而是可解释性逻辑回归的每个特征都有明确的权重系数可以直接打印出“哪些词让邮件被判为垃圾”这对产品侧和数据侧都是刚需。产品经理问“为什么拦截了这封邮件”模型能给出明确答案而 SVM 给不出这种解释。from sklearn.linear_model import LogisticRegression lr LogisticRegression(C1.0, max_iter1000) lr.fit(X_train, y_train) # 打印权重最高的 15 个词看模型到底在关注什么 coef lr.coef_[0] top_idx coef.argsort()[::-1][:15] print(Top 15 强垃圾邮件特征词:) for i in top_idx: print(f {vocab[i]:12} 权重 {coef[i]:.3f})逻辑说明逻辑回归对特征值的单调变换不敏感所以直接喂 TF-IDF 没问题。coef_是每个特征对应的权重权重为正表示该词出现会推高 spam 概率权重为负则是 ham 信号。打印 Top 特征词是检查模型是否学歪的最快方式——如果 Top 15 里出现the这种中性词说明训练集有泄漏或正负样本划分有问题。参数说明C是正则化强度的倒数C越小正则化越强。文本分类特征维度高我一般从C1.0起步然后扫[0.1, 1.0, 10.0]。max_iter1000是给 LBFGS 求解器足够的迭代次数词表上千维时默认的 100 次容易不收敛训练结束会看到警告那时再把数值调大即可。三个模型在这套数据集上我实测的典型范围是朴素贝叶斯 94%-97%SVM 能到 97%-98%逻辑回归介于两者之间。但工程里最终选型还要看训练耗时、预测耗时和可解释性这三项没有一个比调参次要却经常被忽略。学术作业可以三个模型都提交生产环境只留一个能维护的。4. 模型评估与调参在垃圾邮件场景下别只盯准确率4.1 混淆矩阵与四个指标的真实含义垃圾邮件分类的评估是个标准的“机器学习八股”现场。面试里常问准确率、精确率、召回率的区别落到这个数据集上它们的差别非常具体。假设测试集有 300 封正常邮件和 200 封垃圾邮件一个模型把所有邮件都判为正常准确率也有 60%——但这个模型完全没有用。from sklearn.metrics import confusion_matrix, precision_score, recall_score, f1_score cm confusion_matrix(y_test, y_pred_svm) print(混淆矩阵:) print(cm) print(f精确率 precision: {precision_score(y_test, y_pred_svm):.3f}) print(f召回率 recall: {recall_score(y_test, y_pred_svm):.3f}) print(fF1: {f1_score(y_test, y_pred_svm):.3f})逻辑说明把垃圾邮件当作正类spam1precision TP / (TP FP)回答的是“被判为垃圾的邮件里有多少是真的垃圾”——这个指标管的是用户体验正常邮件被误杀最恼火。recall TP / (TP FN)回答的是“真正的垃圾邮件里拦下了多少”——这个指标管的是过滤能力。F1 是两个指标的调和平均适合作为单一数字的比较基准。参数说明confusion_matrix的返回形状是[[TN, FP], [FN, TP]]如果打印出来发现对角线数字在左下右上说明正负类标签设反了回头检查y_all里是spam1还是ham1。我习惯把 spam 设成 1这样各种评分函数默认的pos_label1直接生效不用额外指定正类。在这个场景里宁可精确率低一点也要保住召回率一封垃圾邮件漏进收件箱用户手动删掉就好一封正常邮件被扔进垃圾箱可能就是一次没看到的报价、一封错过的面试通知。两类错误的损失完全不对等这也是后面调阈值的前提。4.2 类别不平衡与 ROC-AUC 的另一种视角作业自带的数据集通常是均衡的spam 和 ham 差不多各半。但真实线上邮件流里垃圾邮件比例往往高得离谱或者反过来企业邮箱里正常邮件占绝大多数。这时候准确率参考价值很低ROC 曲线才是衡量分类能力的最佳工具——前提是你理解了它到底在衡量什么。from sklearn.metrics import roc_curve, auc # 需要 SVM 开启 probabilityTrue才能拿到预测概率 y_prob svm.predict_proba(X_test)[:, 1] fpr, tpr, thresholds roc_curve(y_test, y_prob) roc_auc auc(fpr, tpr) print(fROC-AUC: {roc_auc:.3f}) # 精确率-召回率曲线更贴合垃圾邮件场景 from sklearn.metrics import precision_recall_curve p, r, _ precision_recall_curve(y_test, y_prob) print(fPR 曲线下面积: {auc(r, p):.3f})逻辑说明ROC-AUC 衡量的是“随机抽一个 spam、一个 ham模型把 spam 排在前面的概率”它不受类别比例影响所以用来横向对比模型能力很公平。但如果正类很少PR 曲线更能暴露模型在小类上的挣扎——垃圾邮件过滤就是这样spam 是少数类PR 曲线下面积比 AUC 更能说明模型在生产分布下的表现。参数说明predict_proba返回的是(n_samples, 2)矩阵[:, 1]取的是正类即 spam 的概率。如果跑出来 AUC 只有 0.7 左右别急着调参先怀疑特征矩阵是不是构建错了——比如训练集和测试集没有使用同一份词表。AUC 低于 0.9 基本不用考虑参数问题先把数据链路复查一遍。这个部分我自己的习惯是评估报告里固定出四个数字——混淆矩阵、F1、ROC-AUC、PR-AUC。模型能不能上线看这四个数字比看一个漂亮的准确率靠谱得多。4.3 调参顺序先正则化后阈值最后才换模型调参最忌讳一上来就把网格搜索开满C、gamma、alpha三个参数同时扫两小时过去还不知道瓶颈在数据还是模型。我的顺序是固定的先看正则化系数这一步同时控制过拟合和训练稳定性。from sklearn.model_selection import GridSearchCV param_grid { C: [0.1, 1.0, 10.0], gamma: [0.1, 0.5, 1.0] } grid GridSearchCV(SVC(kernelrbf, probabilityTrue), param_grid, cv5, scoringf1, n_jobs-1) grid.fit(X_train, y_train) print(f最优参数: {grid.best_params_}) print(f最优 CV-F1: {grid.best_score_:.3f})逻辑说明GridSearchCV内部做 5 折交叉验证scoringf1告诉网格搜索用 F1 而不是准确率来选最优参数因为我们的评估目标就是 F1。n_jobs-1表示用满所有 CPU 核SVM 的参数组合如果全跑会很慢这个参数能省一半时间。参数说明稀疏矩阵上cv5就够了样本量小也不用拆太多次。调完C和gamma之后不要急着换模型先在验证集上调节分类阈值——用predict_proba取概率大于 0.3 就判为 spam通常比默认的 0.5 更能平衡两类错误。阈值调节完全不用重新训练只改一个判断条件但它往往能带来 2-3 个点的 F1 提升。等到参数和阈值都调过一轮再回头比较三个模型的 F1。如果朴素贝叶斯和 SVM 差不多优先选朴素贝叶斯因为它在生产环境里部署最简单一个概率表就能跑不需要每次加载几 MB 的支持向量。调参的顺序本质上是先解决“学没学好”再解决“判得准不准”最后才考虑“换不换算法”。5. 避坑与排查从 7z 解压到 SVM 维度爆炸的五个真问题5.1 解压层7z 密码正确却反复报错网上下的 7z 资源最容易栽在第一步。现象有两种在 Linux 上输入7z x直接报command not found或者密码明明没错却反复提示 Wrong password。第一种原因是系统里没装解压工具Debian/Ubuntu 装一下 p7zip-full 就解决。第二种原因多半是压缩包内的文件名用了非 UTF-8 编码解压时密码校验已经通过但写文件名失败看起来就像密码错误。# Debian/Ubuntu 安装完整 7z 支持 sudo apt-get install -y p7zip-full # 显式指定输出目录避免中文文件名编码混乱 7z x 机器学习编程作业垃圾邮件分类.7z -o./spam_ex6 -pYOUR_PASSWORD -y解决的核心是把输出目录单独指定出来。7z的-o参数直接决定解压根路径-y自动确认所有覆盖。如果密码正确还是报错先在 Windows 上用 7-Zip 试试能否正常打开能打开就排除密码问题再回到 Linux 换输出目录重试大部分编码问题都能绕过去。解压完成后第一件事是ls看目录结构确认有没有顶层嵌套目录——很多作业脚本默认路径写的是machine-learning-ex6/ex6少了这层嵌套后面跑代码会到处找不到文件。5.2 数据层邮件乱码与字符集解压之后打开邮件文件报错的不只是解压。这套语料里有相当一部分是 HTML 格式编码混杂有us-ascii、iso-8859-1还有带 BOM 的 UTF-8。现象是用open()按 UTF-8 读直接抛UnicodeDecodeError少读一两封没事批量读就崩。原因是邮件本质上是 MIME 格式字符集信息写在邮件头里普通文本读取方式根本不会去解析它。import email def read_email(path: str) - str: # 邮件标准更接近 email 包解析而不是普通文本文件 with open(path, rb) as f: msg email.message_from_bytes(f.read()) # 取纯文本部分没有就取第一个 text/plain 的 payload if msg.is_multipart(): for part in msg.walk(): if part.get_content_type() text/plain: return part.get_payload(decodeTrue).decode( part.get_content_charset() or utf-8, errorsignore) return msg.get_payload(decodeTrue).decode( msg.get_content_charset() or utf-8, errorsignore)解决是改用email.message_from_bytes解析它能识别 MIME 结构和 charset避免自己手写编码探测。decodeTrue拿原始字节再用get_content_charset()指定的字符集解码errorsignore把损坏的字节丢掉而不是让整封邮件读失败。多部分邮件用walk()遍历挑text/plain把 HTML 部分丢掉既保留正文又减少噪音。这里用errorsignore是务实选择——几封邮件损失几个乱码字符远好过让整个训练流程中断。5.3 训练层SVM 在稀疏高维上慢到怀疑人生跑 SVM 时如果开了probabilityTrue两千封邮件训练可能要等两分钟。作业的 1899 维还好一旦换成自己收集的完整词表一万多维RBF 核加概率校准能慢上一个数量级。现象就是训练卡住不动CPU 占用却居高不下。原因是 RBF 核需要对每对样本计算核函数值样本量和维度同时上涨时计算量是乘积关系。解决思路很简单要么改线性核要么对特征做降维。SVM 线性核在文本分类上效果差不了多少但训练时间从分钟级降到秒级from sklearn.svm import LinearSVC linear_svm LinearSVC(C1.0) linear_svm.fit(X_train, y_train) y_pred_linear linear_svm.predict(X_test) print(LinearSVC 测试集 F1:, f1_score(y_test, y_pred_linear))LinearSVC是 liblinear 的实现专为线性模型优化它在稀疏文本特征上的训练速度比SVC(kernellinear)快很多而且不需要probabilityTrue——线性 SVM 本来就不适合用来出概率需要概率就走逻辑回归。C在这个模型里同样控制正则化强度1.0 起步即可。如果想保留 RBF 核的非线性能力可以先用TruncatedSVD把特征降到 100 维再喂给 SVM能保留大部分信息训练时间大幅缩短。5.4 评估层训练集测试集词表不一致这是编程作业里经典得不能再经典的坑。现象有两种直接报dimension mismatch或者不报错但测试集准确率低得离谱。原因是训练时对训练集做了fit_transform测试时又对测试集单独做了fit两边学出来的词表完全不同。即使两者词表大小碰巧一致词序也大概率不一样模型输出的是完全无语义的结果。正确做法是先在整个语料上固定词表训练集和测试集都只做transformvectorizer TfidfVectorizer(tokenizertokenize_and_stem) X_train_vec vectorizer.fit_transform(X_train_raw) X_test_vec vectorizer.transform(X_test_raw)fit_transform只在训练集上调用测试集只用transform这样测试样本会映射到与训练集完全相同的特征空间。如果使用作业自带的vocab.txt作为固定词表两边都不 fit只 transform最干净也完全避免了数据泄露的争议。注意如果先在整个语料包括测试集上做 fit严格来说有轻微信息泄露因为词表会用测试邮件的内容但垃圾邮件分类里影响通常小到可以忽略。5.5 模型表现谜之下降新邮件里的词在词表里没有换了一批准真实邮件来测试模型准确率暴跌这现象在实战里出现频率极高。排查时看一眼特征矩阵的列数如果远小于训练时的数量说明大量词根本不在已构建的词表里transform时被静默丢弃了。这是稀疏词表的天然问题不是模型的问题。unseen_words set(tokenize_and_stem(new_email)) - set(vocab.values()) print(f新邮件里词表外的词: {unseen_words})文本分类模型的预测上限由词表决定。扩展词表的做法不是把新词加进旧词表就完事而是定期用新增语料重新训练模型。线上垃圾邮件过滤器大概每个月都要重训一次否则新出现的“中奖”变体拼写会让召回率直线下跌。如果只是做作业不需要理会这一点但如果要接到真实邮件流建议把词表大小从 1899 扩到至少 5000并加入 TF-IDF 的min_df3过滤去掉只在几封邮件里出现的生僻词。6. 把模型用起来预测脚本、持久化与最低成本的模型体检6.1 把训练好的模型固化成可复用的预测脚本作业交完别急着关文件夹。把模型落成一个能对新邮件实时判别的脚本这步才把整份作业从“上课练习”变成“实战组件”。做法是把向量器、模型和词表一起持久化下次新邮件来了直接加载不用重新训练。import joblib # 把向量器、模型、词表打包保存成三个文件 joblib.dump(vectorizer, spam_vectorizer.joblib) joblib.dump(lr, spam_model.joblib) joblib.dump(vocab, vocab_mapping.joblib) def predict_news_email(path: str): # 生产环境里新邮件常用这个入口 text clean_email(read_email(path)) vec vectorizer.transform([text]) p lr.predict_proba(vec)[0, 1] label SPAM if p 0.3 else HAM # 阈值按第四章的调参结果定 return label, p print(predict_news_email(sample_unknown_email.txt))joblib是 sklearn 官方推荐的序列化方式比 Python 的 pickle 更擅长保存大数组。三个文件各有分工模型和向量器负责预测词表映射负责把 Top 特征词打印成人类能读的语言。阈值 0.3 是沿用第四章的经验值——宁可多拦几封真垃圾少漏掉关键邮件。如果你要把模型部署成 Web 服务记得避免每次请求都重新加载文件在服务启动时把三件套加载到内存里预测函数只做向量化和矩阵乘法。6.2 抽样看误判邮件最便宜的模型体检我不太相信只看指标就能判断模型是否可用。每次训练完我会从测试集里挑出被误判的样本把原始邮件内容打印出来看一遍。这步花的五分钟比任何调参都更能让模型进步。misclassified [ (i, y_test[i], y_pred_svm[i]) for i in range(len(y_test)) if y_test[i] ! y_pred_svm[i] ] for idx, true_label, pred_label in misclassified[:5]: # 这里的 raw_emails 是原始邮件文本列表按 idx 取回原文 print(f真实{true_label} 预测{pred_label}) print(raw_emails[idx][:200]) print(---)抽样看误判邮件能直接告诉你模型学到的是什么。比如模型把几封含“免费试用”的营销邮件判成 spam但用户其实订阅了这个品牌又比如把求职者自动回复误判成 spam往往是因为回复里带了太多 URL 链接。这种发现指标数字永远给不了。把误判样本固化成一个小型 CSV 文件存原始邮件路径、预测概率、真实标签三个字段每周翻一次。垃圾邮件的对抗性强特征会漂移这个笨办法能最早发现漂移信号。说句实话作业里跑通一个 97% 准确率的 SVM 不难难的是确认这 97% 靠的是什么。我后来做邮件过滤项目每次接到新语料都强制走一遍这套流程清洗、词干、固定词表、三个模型做基线、按 F1 调参、最后抽样看误判邮件。前面几步是让模型跑起来最后一步是让模型可信。从那以后我再也没被“准确率 99%”忽悠过。希望这套拆解能帮你把这份垃圾邮件分类作业的每一层都摸熟少走我当年走过的弯路。本文还有配套的精品资源点击获取