简介这份资源是面向NLP入门者与机器学习实践者的Python文本分类项目包围绕文本自动归类这一核心任务覆盖从数据预处理、特征工程到模型训练与评估的完整链路。包内共30个文件以27个py脚本为主体辅以1个md说明、1个txt停用词表和1个gitignore配置压缩包约19KB体量轻便便于快速阅读与二次修改。脚本涉及文本清洗、分词、TF-IDF计算、朴素贝叶斯与SVM等分类算法以及KMeans聚类、线性模型演示和Elasticsearch接口调用等扩展内容可帮助读者理解词袋与TF-IDF特征构建、超参数网格搜索和分类性能评估等关键环节。目前已有272人学习下载适合希望以实操方式掌握Python机器学习文本分类流程、积累项目经验的开发者参考。1. 从一份压缩包说起Python 机器学习文本分类器到底能解决什么问题你手上有一批文本——可能是用户评论、工单记录、新闻标题也可能是论文摘要——需要把它们自动分到几个预设的类别里。人工标注太慢规则匹配又太脆这时候「基于 Python 的机器学习文本分类器」就是最直接的落地方案。它不依赖大模型 API不需要 GPU 集群一台普通笔记本就能跑通全流程读数据、清洗、向量化、训练、评估、保存模型、对外提供预测接口。适合谁适合刚学完 Python 基础语法、想找一个完整项目把「机器学习入门」串起来的开发者也适合已经会调 sklearn 但没走过完整工程链路、想补上「模型怎么落地」这一环的熟手。这个压缩包里通常包含数据文件、训练脚本、模型持久化文件和一份预测入口核心价值在于它把「机器学习 应用流程」从理论变成了可复现的代码路径。接下来我不讲空泛概念直接按「数据怎么进、特征怎么出、模型怎么选、坑怎么避」的顺序拆开讲。2. 数据读取与文本清洗分类器能不能训起来八成看这一步2.1 先搞清楚你的数据长什么样拿到压缩包后第一件事不是急着跑训练脚本而是先看数据格式。常见的文本分类数据集有两种组织方式一种是单个 CSV 或 TSV 文件两列分别是text和label另一种是按类别分文件夹每个文件夹名就是标签里面是一堆.txt。前者适合 sklearn 直接读后者需要自己遍历目录构造 DataFrame。我一般会先写一段探查代码确认编码、分隔符、标签分布和缺失值情况因为后面所有步骤都建立在这个认知上。import pandas as pd import os # 方式一单文件读取注意编码中文数据常见 utf-8 或 gbk df pd.read_csv(data.csv, encodingutf-8, sep\t) print(df.head()) print(df[label].value_counts()) # 看类别是否均衡 print(df.isnull().sum()) # 看缺失值 # 方式二按文件夹读取 records [] root dataset for label in os.listdir(root): folder os.path.join(root, label) if not os.path.isdir(folder): continue for fname in os.listdir(folder): with open(os.path.join(folder, fname), encodingutf-8) as f: records.append({text: f.read().strip(), label: label}) df pd.DataFrame(records)逻辑说明value_counts()用来判断是否存在类别极度不均衡如果某一类占比超过 90%后面评估指标就不能只看准确率。isnull().sum()帮你决定是丢弃还是填充。参数上encoding一定要试中文数据用gbk读出来乱码就换utf-8反之亦然。2.2 清洗到什么程度算够文本清洗不是越狠越好。我见过有人把标点、数字、英文全部删掉结果情感分类里「不」和「」都没了模型直接学废。常见做法是去 HTML 标签、去多余空白、统一大小写英文场景、保留否定词和程度副词。中文场景还要考虑是否分词——如果用 TF-IDF 词级特征分词是必须的如果用字符级 n-gram可以不分词。import re def clean_text(text): text re.sub(r[^], , text) # 去 HTML 标签 text re.sub(r\s, , text) # 合并空白 text text.strip() return text df[text] df[text].astype(str).map(clean_text) df df[df[text].str.len() 2] # 丢掉过短样本逻辑说明astype(str)防止 NaN 导致re.sub报错。len() 2是经验阈值太短的文本没有区分度留着只会给模型加噪声。参数上如果你做的是中文分类清洗后还要接分词常见用 jieba但注意 jieba 的cut默认精确模式做特征时一般用cut(text)后空格拼接。2.3 标签编码与数据集划分标签必须转成整数sklearn 的LabelEncoder是最省事的。划分训练集和测试集时如果类别不均衡一定要加stratifyy否则测试集里可能某个类别一个样本都没有评估结果毫无意义。from sklearn.preprocessing import LabelEncoder from sklearn.model_selection import train_test_split le LabelEncoder() df[label_id] le.fit_transform(df[label]) X_train, X_test, y_train, y_test train_test_split( df[text], df[label_id], test_size0.2, random_state42, stratifydf[label_id] ) print(le.classes_) # 记住这个顺序预测时要用逻辑说明stratify保证训练集和测试集的类别比例一致。random_state固定后结果可复现调参时不要改。le.classes_的顺序就是预测输出映射回原始标签的依据保存模型时一定要一起保存。3. 特征工程与模型选型TF-IDF 还是词向量线性模型还是深度模型3.1 TF-IDF 为什么仍然是文本分类的基线首选在中小规模文本分类任务上TF-IDF 加线性模型的组合往往能打到 85% 以上的准确率而且训练时间以秒计。TF-IDF 的核心思想是一个词在当前文档出现越多、在整个语料出现越少它就越有区分度。TfidfVectorizer的几个关键参数直接决定特征质量。from sklearn.feature_extraction.text import TfidfVectorizer vectorizer TfidfVectorizer( max_features20000, # 控制特征维度防止稀疏矩阵过大 ngram_range(1, 2), # 一元和二元词组捕捉「不 好」这类组合 min_df2, # 至少出现在 2 个文档中过滤生僻词 max_df0.95, # 出现在超过 95% 文档中的词直接丢掉 sublinear_tfTrue # 对词频做对数缩放抑制高频词主导 ) X_train_vec vectorizer.fit_transform(X_train) X_test_vec vectorizer.transform(X_test) # 注意测试集只 transform不 fit逻辑说明fit_transform只在训练集上做测试集必须用同一个 vectorizer 的transform否则就是数据泄露线下指标虚高、上线直接翻车。ngram_range(1,2)对中文来说如果没分词就是字符级二元组也有一定效果如果分词了就是词级二元组。sublinear_tf在长文本上收益明显短文本可以不开。3.2 线性模型怎么选朴素贝叶斯、逻辑回归还是 SVM这三个是文本分类的常客选择依据是数据规模和任务特点。朴素贝叶斯训练极快适合作为第一个基线逻辑回归可解释性好输出概率方便做阈值调整线性 SVM 在小样本高维特征上往往泛化最好但不直接输出概率。模型训练速度是否输出概率适合场景MultinomialNB极快是基线、大规模快速验证LogisticRegression快是需要概率、需要解释权重LinearSVC中等否需校准小样本、高维稀疏特征from sklearn.linear_model import LogisticRegression from sklearn.svm import LinearSVC from sklearn.naive_bayes import MultinomialNB from sklearn.metrics import classification_report models { nb: MultinomialNB(alpha0.1), lr: LogisticRegression(C1.0, max_iter1000), svm: LinearSVC(C0.5) } for name, model in models.items(): model.fit(X_train_vec, y_train) pred model.predict(X_test_vec) print(name) print(classification_report(y_test, pred, target_namesle.classes_))逻辑说明alpha是朴素贝叶斯的平滑系数越小越容易过拟合一般从 0.1 到 1.0 试。C是正则强度倒数越大越容易过拟合文本任务常见 0.5 到 2.0。classification_report要看每一类的 precision 和 recall不要只看 accuracy。3.3 什么时候该上深度学习模型如果你的数据量超过几万条、类别之间有复杂的语义重叠、或者 TF-IDF 基线已经调到瓶颈可以考虑 TextCNN 或 BERT 微调。但要注意深度学习模型需要 GPU、需要更多调参、部署成本更高。我一般会先用 TF-IDF 加线性模型跑一个基线如果业务方对准确率的要求超出基线 5 个点以上才考虑上深度模型。常见做法是用transformers加载预训练中文模型接一个分类头学习率设 2e-5 到 5e-5训练 3 到 5 个 epoch。4. 训练、评估与模型持久化别让模型只活在 Notebook 里4.1 交叉验证与超参数搜索单次 train_test_split 的结果波动可能很大尤其是小数据集。用交叉验证看模型稳定性再用 GridSearchCV 找最优参数是更稳妥的做法。from sklearn.model_selection import GridSearchCV from sklearn.pipeline import Pipeline pipe Pipeline([ (tfidf, TfidfVectorizer(max_features20000, ngram_range(1,2))), (clf, LogisticRegression(max_iter1000)) ]) params { tfidf__min_df: [1, 2, 3], clf__C: [0.5, 1.0, 2.0] } grid GridSearchCV(pipe, params, cv5, scoringf1_macro, n_jobs-1) grid.fit(X_train, y_train) print(grid.best_params_) print(grid.best_score_)逻辑说明用 Pipeline 把向量化和分类器串起来避免在交叉验证中数据泄露。scoringf1_macro在类别不均衡时比 accuracy 更可靠。n_jobs-1用满 CPU 核数但数据量大时注意内存。4.2 模型保存与加载的正确姿势用joblib保存整个 Pipeline包括 vectorizer 和分类器这样预测时不需要重新 fit。标签编码器也要一起保存。import joblib joblib.dump(grid.best_estimator_, text_clf_pipeline.joblib) joblib.dump(le, label_encoder.joblib) # 加载预测 clf joblib.load(text_clf_pipeline.joblib) le joblib.load(label_encoder.joblib) texts [这个产品质量很好物流也快] pred clf.predict(texts) print(le.inverse_transform(pred))逻辑说明保存 Pipeline 而不是单独保存模型是因为预测时输入是原始文本需要 vectorizer 先转换。inverse_transform把整数标签映射回原始类别名。注意joblib版本兼容性训练和推理环境尽量保持一致。4.3 评估指标怎么看才不被忽悠准确率在类别均衡时可用但类别不均衡时会被多数类主导。我一般看 macro F1 和 weighted F1再单独看少数类的 recall。如果业务对误报敏感就看 precision对漏报敏感就看 recall。混淆矩阵能帮你定位模型到底把哪两类搞混了。from sklearn.metrics import confusion_matrix import pandas as pd pred clf.predict(X_test) cm confusion_matrix(y_test, pred) cm_df pd.DataFrame(cm, indexle.classes_, columnsle.classes_) print(cm_df)逻辑说明混淆矩阵的行是真实标签列是预测标签。对角线是正确预测非对角线是错误。如果发现某两类互相混淆严重说明特征区分度不够可以考虑加特征或换模型。5. 避坑与排查文本分类器从跑通到能用之间隔着的那些坑5.1 训练集和测试集分布不一致线下高线上低现象交叉验证 F1 0.92上线后人工抽检准确率不到 0.7。原因训练数据来自历史积累线上数据来自新渠道用词、长度、类别分布都变了。解决定期用线上新数据重新训练或者至少做一次分布对比看词频和文本长度是否偏移。我一般会保留一个「线上验证集」每次模型更新前先在这个集合上跑一遍。5.2 中文分词不一致导致特征错位现象训练时用 jieba 分词预测时忘了分词模型把整句话当一个 token预测结果全是同一类。原因vectorizer 的 vocabulary 是基于分词后的词建立的输入格式必须一致。解决把分词逻辑封装进 Pipeline 的自定义 transformer或者至少在预测入口显式调用同一个分词函数。血泪经验任何在训练前做的预处理预测前必须一模一样做一遍。5.3 类别不均衡导致少数类完全被忽略现象多数类 F1 0.95少数类 F1 0.1模型几乎不预测少数类。原因损失函数被多数类主导。解决设置class_weightbalanced或者对少数类过采样。注意过采样要在训练集上做不能碰测试集。如果少数类样本极少可以考虑合成数据但文本合成比图像难效果不稳定。5.4 模型文件太大导致部署困难现象TF-IDF 的max_features设了 50 万模型文件几百 MB加载慢、内存占用高。原因特征维度太高稀疏矩阵存储也大。解决把max_features降到 2 万到 5 万配合min_df过滤通常精度损失不到 1 个点但模型体积缩小一个数量级。我一般会画一条「特征数 vs F1」的曲线找收益拐点。5.5 预测服务没有处理空文本和超长文本现象接口收到空字符串或几万字的文本直接抛异常或超时。原因训练时清洗掉了短文本但预测入口没做校验。解决在预测函数入口加长度判断空文本返回默认类别或拒绝超长文本截断到训练时见过的最大长度。这个坑不复杂但线上出事就是事故。6. 进阶技巧用校准和阈值调整把分类器调到业务可用6.1 概率校准让 LinearSVC 也能输出可信概率LinearSVC 不输出概率但业务往往需要「置信度」来决定是否人工复核。用CalibratedClassifierCV包一层就能拿到校准后的概率。注意校准需要额外数据一般从训练集里再切一部分出来。from sklearn.calibration import CalibratedClassifierCV from sklearn.svm import LinearSVC base_svm LinearSVC(C0.5) calibrated CalibratedClassifierCV(base_svm, cv3, methodsigmoid) calibrated.fit(X_train_vec, y_train) proba calibrated.predict_proba(X_test_vec) print(proba[:5])逻辑说明methodsigmoid是 Platt 校准适合小样本methodisotonic是非参数校准需要更多数据。校准后的概率更接近真实置信度但不会提升排序能力。6.2 按类别调阈值把 recall 拉上来默认的predict用 0.5 作为阈值但业务上可以对少数类降低阈值提高召回。比如风控场景宁可误报不可漏报就把少数类阈值降到 0.3。import numpy as np proba calibrated.predict_proba(X_test_vec) thresholds np.array([0.3, 0.5, 0.5]) # 对应三个类别 pred_custom (proba thresholds).argmax(axis1)逻辑说明argmax取概率最高的类别但前提是该类概率超过对应阈值。阈值需要在一部分验证数据上试出来不能拍脑袋。我一般会画 precision-recall 曲线找业务能接受的平衡点。6.3 一个我常犯的错忘了保存 vectorizer 的 vocabulary早期我做模型部署时只保存了分类器预测时重新 fit 了一个 vectorizer结果特征顺序完全对不上预测结果全是乱的。后来养成习惯任何参与训练的转换器必须和模型一起保存、一起加载。现在我用 Pipeline 把所有步骤串起来joblib.dump一次搞定再也没翻过这个车。如果你正在做文本分类项目建议从第一天就用 Pipeline别等上线前才补。希望帮到你。本文还有配套的精品资源点击获取 Python机器学习文本分类器实战：从数据清洗到模型部署全流程
简介这份资源是面向NLP入门者与机器学习实践者的Python文本分类项目包围绕文本自动归类这一核心任务覆盖从数据预处理、特征工程到模型训练与评估的完整链路。包内共30个文件以27个py脚本为主体辅以1个md说明、1个txt停用词表和1个gitignore配置压缩包约19KB体量轻便便于快速阅读与二次修改。脚本涉及文本清洗、分词、TF-IDF计算、朴素贝叶斯与SVM等分类算法以及KMeans聚类、线性模型演示和Elasticsearch接口调用等扩展内容可帮助读者理解词袋与TF-IDF特征构建、超参数网格搜索和分类性能评估等关键环节。目前已有272人学习下载适合希望以实操方式掌握Python机器学习文本分类流程、积累项目经验的开发者参考。1. 从一份压缩包说起Python 机器学习文本分类器到底能解决什么问题你手上有一批文本——可能是用户评论、工单记录、新闻标题也可能是论文摘要——需要把它们自动分到几个预设的类别里。人工标注太慢规则匹配又太脆这时候「基于 Python 的机器学习文本分类器」就是最直接的落地方案。它不依赖大模型 API不需要 GPU 集群一台普通笔记本就能跑通全流程读数据、清洗、向量化、训练、评估、保存模型、对外提供预测接口。适合谁适合刚学完 Python 基础语法、想找一个完整项目把「机器学习入门」串起来的开发者也适合已经会调 sklearn 但没走过完整工程链路、想补上「模型怎么落地」这一环的熟手。这个压缩包里通常包含数据文件、训练脚本、模型持久化文件和一份预测入口核心价值在于它把「机器学习 应用流程」从理论变成了可复现的代码路径。接下来我不讲空泛概念直接按「数据怎么进、特征怎么出、模型怎么选、坑怎么避」的顺序拆开讲。2. 数据读取与文本清洗分类器能不能训起来八成看这一步2.1 先搞清楚你的数据长什么样拿到压缩包后第一件事不是急着跑训练脚本而是先看数据格式。常见的文本分类数据集有两种组织方式一种是单个 CSV 或 TSV 文件两列分别是text和label另一种是按类别分文件夹每个文件夹名就是标签里面是一堆.txt。前者适合 sklearn 直接读后者需要自己遍历目录构造 DataFrame。我一般会先写一段探查代码确认编码、分隔符、标签分布和缺失值情况因为后面所有步骤都建立在这个认知上。import pandas as pd import os # 方式一单文件读取注意编码中文数据常见 utf-8 或 gbk df pd.read_csv(data.csv, encodingutf-8, sep\t) print(df.head()) print(df[label].value_counts()) # 看类别是否均衡 print(df.isnull().sum()) # 看缺失值 # 方式二按文件夹读取 records [] root dataset for label in os.listdir(root): folder os.path.join(root, label) if not os.path.isdir(folder): continue for fname in os.listdir(folder): with open(os.path.join(folder, fname), encodingutf-8) as f: records.append({text: f.read().strip(), label: label}) df pd.DataFrame(records)逻辑说明value_counts()用来判断是否存在类别极度不均衡如果某一类占比超过 90%后面评估指标就不能只看准确率。isnull().sum()帮你决定是丢弃还是填充。参数上encoding一定要试中文数据用gbk读出来乱码就换utf-8反之亦然。2.2 清洗到什么程度算够文本清洗不是越狠越好。我见过有人把标点、数字、英文全部删掉结果情感分类里「不」和「」都没了模型直接学废。常见做法是去 HTML 标签、去多余空白、统一大小写英文场景、保留否定词和程度副词。中文场景还要考虑是否分词——如果用 TF-IDF 词级特征分词是必须的如果用字符级 n-gram可以不分词。import re def clean_text(text): text re.sub(r[^], , text) # 去 HTML 标签 text re.sub(r\s, , text) # 合并空白 text text.strip() return text df[text] df[text].astype(str).map(clean_text) df df[df[text].str.len() 2] # 丢掉过短样本逻辑说明astype(str)防止 NaN 导致re.sub报错。len() 2是经验阈值太短的文本没有区分度留着只会给模型加噪声。参数上如果你做的是中文分类清洗后还要接分词常见用 jieba但注意 jieba 的cut默认精确模式做特征时一般用cut(text)后空格拼接。2.3 标签编码与数据集划分标签必须转成整数sklearn 的LabelEncoder是最省事的。划分训练集和测试集时如果类别不均衡一定要加stratifyy否则测试集里可能某个类别一个样本都没有评估结果毫无意义。from sklearn.preprocessing import LabelEncoder from sklearn.model_selection import train_test_split le LabelEncoder() df[label_id] le.fit_transform(df[label]) X_train, X_test, y_train, y_test train_test_split( df[text], df[label_id], test_size0.2, random_state42, stratifydf[label_id] ) print(le.classes_) # 记住这个顺序预测时要用逻辑说明stratify保证训练集和测试集的类别比例一致。random_state固定后结果可复现调参时不要改。le.classes_的顺序就是预测输出映射回原始标签的依据保存模型时一定要一起保存。3. 特征工程与模型选型TF-IDF 还是词向量线性模型还是深度模型3.1 TF-IDF 为什么仍然是文本分类的基线首选在中小规模文本分类任务上TF-IDF 加线性模型的组合往往能打到 85% 以上的准确率而且训练时间以秒计。TF-IDF 的核心思想是一个词在当前文档出现越多、在整个语料出现越少它就越有区分度。TfidfVectorizer的几个关键参数直接决定特征质量。from sklearn.feature_extraction.text import TfidfVectorizer vectorizer TfidfVectorizer( max_features20000, # 控制特征维度防止稀疏矩阵过大 ngram_range(1, 2), # 一元和二元词组捕捉「不 好」这类组合 min_df2, # 至少出现在 2 个文档中过滤生僻词 max_df0.95, # 出现在超过 95% 文档中的词直接丢掉 sublinear_tfTrue # 对词频做对数缩放抑制高频词主导 ) X_train_vec vectorizer.fit_transform(X_train) X_test_vec vectorizer.transform(X_test) # 注意测试集只 transform不 fit逻辑说明fit_transform只在训练集上做测试集必须用同一个 vectorizer 的transform否则就是数据泄露线下指标虚高、上线直接翻车。ngram_range(1,2)对中文来说如果没分词就是字符级二元组也有一定效果如果分词了就是词级二元组。sublinear_tf在长文本上收益明显短文本可以不开。3.2 线性模型怎么选朴素贝叶斯、逻辑回归还是 SVM这三个是文本分类的常客选择依据是数据规模和任务特点。朴素贝叶斯训练极快适合作为第一个基线逻辑回归可解释性好输出概率方便做阈值调整线性 SVM 在小样本高维特征上往往泛化最好但不直接输出概率。模型训练速度是否输出概率适合场景MultinomialNB极快是基线、大规模快速验证LogisticRegression快是需要概率、需要解释权重LinearSVC中等否需校准小样本、高维稀疏特征from sklearn.linear_model import LogisticRegression from sklearn.svm import LinearSVC from sklearn.naive_bayes import MultinomialNB from sklearn.metrics import classification_report models { nb: MultinomialNB(alpha0.1), lr: LogisticRegression(C1.0, max_iter1000), svm: LinearSVC(C0.5) } for name, model in models.items(): model.fit(X_train_vec, y_train) pred model.predict(X_test_vec) print(name) print(classification_report(y_test, pred, target_namesle.classes_))逻辑说明alpha是朴素贝叶斯的平滑系数越小越容易过拟合一般从 0.1 到 1.0 试。C是正则强度倒数越大越容易过拟合文本任务常见 0.5 到 2.0。classification_report要看每一类的 precision 和 recall不要只看 accuracy。3.3 什么时候该上深度学习模型如果你的数据量超过几万条、类别之间有复杂的语义重叠、或者 TF-IDF 基线已经调到瓶颈可以考虑 TextCNN 或 BERT 微调。但要注意深度学习模型需要 GPU、需要更多调参、部署成本更高。我一般会先用 TF-IDF 加线性模型跑一个基线如果业务方对准确率的要求超出基线 5 个点以上才考虑上深度模型。常见做法是用transformers加载预训练中文模型接一个分类头学习率设 2e-5 到 5e-5训练 3 到 5 个 epoch。4. 训练、评估与模型持久化别让模型只活在 Notebook 里4.1 交叉验证与超参数搜索单次 train_test_split 的结果波动可能很大尤其是小数据集。用交叉验证看模型稳定性再用 GridSearchCV 找最优参数是更稳妥的做法。from sklearn.model_selection import GridSearchCV from sklearn.pipeline import Pipeline pipe Pipeline([ (tfidf, TfidfVectorizer(max_features20000, ngram_range(1,2))), (clf, LogisticRegression(max_iter1000)) ]) params { tfidf__min_df: [1, 2, 3], clf__C: [0.5, 1.0, 2.0] } grid GridSearchCV(pipe, params, cv5, scoringf1_macro, n_jobs-1) grid.fit(X_train, y_train) print(grid.best_params_) print(grid.best_score_)逻辑说明用 Pipeline 把向量化和分类器串起来避免在交叉验证中数据泄露。scoringf1_macro在类别不均衡时比 accuracy 更可靠。n_jobs-1用满 CPU 核数但数据量大时注意内存。4.2 模型保存与加载的正确姿势用joblib保存整个 Pipeline包括 vectorizer 和分类器这样预测时不需要重新 fit。标签编码器也要一起保存。import joblib joblib.dump(grid.best_estimator_, text_clf_pipeline.joblib) joblib.dump(le, label_encoder.joblib) # 加载预测 clf joblib.load(text_clf_pipeline.joblib) le joblib.load(label_encoder.joblib) texts [这个产品质量很好物流也快] pred clf.predict(texts) print(le.inverse_transform(pred))逻辑说明保存 Pipeline 而不是单独保存模型是因为预测时输入是原始文本需要 vectorizer 先转换。inverse_transform把整数标签映射回原始类别名。注意joblib版本兼容性训练和推理环境尽量保持一致。4.3 评估指标怎么看才不被忽悠准确率在类别均衡时可用但类别不均衡时会被多数类主导。我一般看 macro F1 和 weighted F1再单独看少数类的 recall。如果业务对误报敏感就看 precision对漏报敏感就看 recall。混淆矩阵能帮你定位模型到底把哪两类搞混了。from sklearn.metrics import confusion_matrix import pandas as pd pred clf.predict(X_test) cm confusion_matrix(y_test, pred) cm_df pd.DataFrame(cm, indexle.classes_, columnsle.classes_) print(cm_df)逻辑说明混淆矩阵的行是真实标签列是预测标签。对角线是正确预测非对角线是错误。如果发现某两类互相混淆严重说明特征区分度不够可以考虑加特征或换模型。5. 避坑与排查文本分类器从跑通到能用之间隔着的那些坑5.1 训练集和测试集分布不一致线下高线上低现象交叉验证 F1 0.92上线后人工抽检准确率不到 0.7。原因训练数据来自历史积累线上数据来自新渠道用词、长度、类别分布都变了。解决定期用线上新数据重新训练或者至少做一次分布对比看词频和文本长度是否偏移。我一般会保留一个「线上验证集」每次模型更新前先在这个集合上跑一遍。5.2 中文分词不一致导致特征错位现象训练时用 jieba 分词预测时忘了分词模型把整句话当一个 token预测结果全是同一类。原因vectorizer 的 vocabulary 是基于分词后的词建立的输入格式必须一致。解决把分词逻辑封装进 Pipeline 的自定义 transformer或者至少在预测入口显式调用同一个分词函数。血泪经验任何在训练前做的预处理预测前必须一模一样做一遍。5.3 类别不均衡导致少数类完全被忽略现象多数类 F1 0.95少数类 F1 0.1模型几乎不预测少数类。原因损失函数被多数类主导。解决设置class_weightbalanced或者对少数类过采样。注意过采样要在训练集上做不能碰测试集。如果少数类样本极少可以考虑合成数据但文本合成比图像难效果不稳定。5.4 模型文件太大导致部署困难现象TF-IDF 的max_features设了 50 万模型文件几百 MB加载慢、内存占用高。原因特征维度太高稀疏矩阵存储也大。解决把max_features降到 2 万到 5 万配合min_df过滤通常精度损失不到 1 个点但模型体积缩小一个数量级。我一般会画一条「特征数 vs F1」的曲线找收益拐点。5.5 预测服务没有处理空文本和超长文本现象接口收到空字符串或几万字的文本直接抛异常或超时。原因训练时清洗掉了短文本但预测入口没做校验。解决在预测函数入口加长度判断空文本返回默认类别或拒绝超长文本截断到训练时见过的最大长度。这个坑不复杂但线上出事就是事故。6. 进阶技巧用校准和阈值调整把分类器调到业务可用6.1 概率校准让 LinearSVC 也能输出可信概率LinearSVC 不输出概率但业务往往需要「置信度」来决定是否人工复核。用CalibratedClassifierCV包一层就能拿到校准后的概率。注意校准需要额外数据一般从训练集里再切一部分出来。from sklearn.calibration import CalibratedClassifierCV from sklearn.svm import LinearSVC base_svm LinearSVC(C0.5) calibrated CalibratedClassifierCV(base_svm, cv3, methodsigmoid) calibrated.fit(X_train_vec, y_train) proba calibrated.predict_proba(X_test_vec) print(proba[:5])逻辑说明methodsigmoid是 Platt 校准适合小样本methodisotonic是非参数校准需要更多数据。校准后的概率更接近真实置信度但不会提升排序能力。6.2 按类别调阈值把 recall 拉上来默认的predict用 0.5 作为阈值但业务上可以对少数类降低阈值提高召回。比如风控场景宁可误报不可漏报就把少数类阈值降到 0.3。import numpy as np proba calibrated.predict_proba(X_test_vec) thresholds np.array([0.3, 0.5, 0.5]) # 对应三个类别 pred_custom (proba thresholds).argmax(axis1)逻辑说明argmax取概率最高的类别但前提是该类概率超过对应阈值。阈值需要在一部分验证数据上试出来不能拍脑袋。我一般会画 precision-recall 曲线找业务能接受的平衡点。6.3 一个我常犯的错忘了保存 vectorizer 的 vocabulary早期我做模型部署时只保存了分类器预测时重新 fit 了一个 vectorizer结果特征顺序完全对不上预测结果全是乱的。后来养成习惯任何参与训练的转换器必须和模型一起保存、一起加载。现在我用 Pipeline 把所有步骤串起来joblib.dump一次搞定再也没翻过这个车。如果你正在做文本分类项目建议从第一天就用 Pipeline别等上线前才补。希望帮到你。本文还有配套的精品资源点击获取