简介：本资源是一份面向金融科技从业者、量化系统开发工程师及AI模型落地工程师的深度技术方案文档，聚焦证券交易结算对账这一高精度、强合规场景，系统性提出基于DeepSeek-VL2多模态大模型的自动化核验与差异归因框架。全文610页、61章，覆盖从单据多模态特征分析、PDF/图像文本提取、表格结构化转换、手写批注语义还原，到数据标注体系构建、跨模态编码优化、联合损失设计、注意力融合机制等全链路技术细节，具备完整工程落地闭环能力。资源为单个PDF文件（16.36MB），支持目录跳转与左侧书签大纲导航，文字、图表、公式、目录层级均渲染正常，便于逐章精读与快速定位。目前已有78人学习下载，内容组织高度结构化，前20章已详述行业痛点、数据采集规范、预处理流程、模型适配逻辑与训练调优策略，是深入理解多模态技术在证券清算领域实战应用的稀缺参考资料。

1. DeepSeek-VL2真能干结算对账？610页方案不是PPT，是券商实测过的多模态核验流水线

你见过凌晨三点还在Excel里手动比对37张PDF结算单的清算岗同事吗？我见过——他桌上贴着三张便签：一张写“金额小数点后两位必须对齐”，一张写“手写‘已核’不能代替系统状态”，第三张只有一行红字：“今天第4次因‘作废水印没识别’导致对账中断”。这不是段子，是某头部券商2025年Q3的真实日志。而这份610页的《DeepSeek证券交易结算对账方案》，正是他们把DeepSeek-VL2从实验室拽进生产环境后，用217天、14轮迭代、89次线上灰度验证攒出来的可落地核验流水线手册。它不讲大模型有多强，只告诉你：当PDF扫描件带模糊印章、表格跨页断裂、手写批注压在金额数字上时，怎么让模型不翻车；当清算系统突然推送格式错乱的JSON、对手方单据缺字段、监管新规要求新增“跨境资金流向标识”时，怎么5分钟内热更新规则而不重启服务。全文覆盖从PDF解析到差异归因的61个技术断点，每章都带参数阈值（比如“手写识别置信度<0.62时强制触发人工复核通道”）、每节都标实测耗时（如“单张A4扫描件端到端处理≤1.8s，含OCR+表格重建+语义校验”）。这不是理论推演，是把DeepSeek-VL2当成产线工人用——调参像拧螺丝，部署像接电路，出问题时直接翻第37章查融合决策权重表。如果你正被结算对账的“格式地狱”折磨，或刚立项AI对账项目却卡在PDF识别率上不去，这份文档就是你该拆的第一份源码包。

2. 多模态数据特征解剖：为什么结算单据是DeepSeek-VL2的终极压力测试场

证券结算单据不是普通文档，它是多模态数据的“混沌试验场”。结构化字段要精确到分，手写批注可能潦草如甲骨文，PDF表格会跨页断裂，扫描件常带墨渍遮挡关键数字——这些不是边缘case，而是每日必现的生产现实。本章不讲抽象概念，只拆610页文档里反复验证的四个核心特征维度，告诉你DeepSeek-VL2在结算场景到底要啃哪些硬骨头。

2.1 结构化文本：看似规整，实则暗藏业务逻辑陷阱

结构化文本（如Excel/数据库导出）常被误认为“最简单”，但实际是差错高发区。文档第5章明确指出：字段合规性≠业务正确性。例如“清算日期”字段格式为2025-05-20，但业务规则要求“清算日期必须≥交易日期+T+1”，若系统错误生成2025-05-18，纯格式校验会放行，而DeepSeek-VL2需在编码层注入业务规则约束。
关键参数设计：

# deepseek_vl2_input_encoder.py 中的结构化字段校验逻辑 def validate_settlement_date(trade_date: str, clear_date: str) -> bool: """ 业务规则硬编码：清算日期必须晚于交易日期至少1个工作日 注意：此处需接入交易所节假日API，非简单日期比较 """ trade_dt = parse_date(trade_date) clear_dt = parse_date(clear_date) # 调用实时节假日服务（文档第4章要求） biz_days = get_business_days_between(trade_dt, clear_dt) return biz_days >= 1 # 非自然日，需排除周末/法定假日

提示：文档第5.2节强调，所有结构化校验必须与交易所最新《结算业务规则》版本号绑定，避免规则漂移。例如2025版规则新增“跨境交易需校验SWIFT BIC码长度为11位”，旧版校验器会漏检。

2.2 半结构化表格：PDF里的“俄罗斯套娃”

结算单据中的表格绝非标准HTML Table。文档第7章用23页详述其复杂性：矢量PDF表格有合并单元格（如“费用明细”跨3列）、图片PDF表格需OCR+布局分析双路识别、扫描件表格存在行列错位（因装订歪斜导致第2列内容被识别到第1列）。更致命的是语义级关联——表格外的汇总文本“总金额：¥1,256,890.78”必须与表格内所有“结算净额”求和一致，且需容忍四舍五入误差（文档第35.4节定义阈值为±0.01元）。
DeepSeek-VL2的改造点在此凸显：原生VL2仅做视觉-文本对齐，而本方案在第7.2节要求表格特征建模层强制注入计算图：

# table_structurizer.py 中的跨模态计算约束 class SettlementTableProcessor: def __init__(self): # 加载预训练的表格结构识别模型（基于DocBank微调） self.table_model = load_finetuned_table_model("docbank_settlement_v2") # 注入业务计算图：定义字段间数学关系 self.calc_graph = { "settlement_net": ["buy_amount", "sell_amount", "commission", "stamp_tax"], "total_amount": ["settlement_net"] # 汇总行必须满足此关系 } def validate_table_consistency(self, table_data: dict) -> Dict[str, float]: """ 计算各字段理论值 vs 实际值偏差 返回：{字段名: 偏差绝对值}，用于后续差异定位 """ errors = {} for target_field, source_fields in self.calc_graph.items(): if target_field not in table_data or any(f not in table_data for f in source_fields): continue # 执行业务公式计算（例：settlement_net = buy_amount - sell_amount - commission - stamp_tax） calc_value = self._execute_formula(target_field, table_data) actual_value = table_data[target_field] errors[target_field] = abs(calc_value - actual_value) return errors

注意：文档第7.4节警告，当errors["total_amount"] > 0.01时，不直接报错，而是触发第39章的“多模态线索提取”，因为偏差可能源于表格外手写批注（如“补录佣金：¥2.50”）。

2.3 非结构化视觉：印章、水印、手写批注的“三重门”

这是DeepSeek-VL2在结算场景最吃力的部分。文档第8章直指痛点：手写批注位置随机（可能压在金额数字上）、字体混杂（楷体/行书/连笔）、存在涂改（划掉旧文字写新数字）。更棘手的是视觉语义冲突——单据带“作废”水印（视觉模态），但结构化字段status="valid"（文本模态），此时模型必须判断哪个可信度更高。
解决方案见文档第8.3节：分层置信度加权机制。

• 第一层：视觉识别置信度（OCR模型输出）
• 第二层：业务规则可信度（如“作废水印”在监管文件中定义为最高优先级）
• 第三层：上下文一致性（若水印区域覆盖了“结算金额”字段，则该字段需人工复核）

# handwriting_analyzer.py 中的置信度融合逻辑 def fuse_handwriting_confidence(ocr_conf: float, rule_priority: int, context_score: float) -> float: """ 三重置信度融合：rule_priority为业务规则权重（1-5级，5=最高） context_score：上下文一致性得分（0-1，基于邻近字段语义连贯性） """ # 文档第8.4节公式：最终置信度 = ocr_conf * (0.3 + 0.7 * rule_priority/5) * context_score base_weight = 0.3 + 0.7 * (rule_priority / 5.0) final_conf = ocr_conf * base_weight * context_score return max(0.0, min(1.0, final_conf)) # 截断至[0,1] # 示例：作废水印识别 watermark_ocr_conf = 0.85 # OCR识别“作废”置信度 rule_priority = 5 # 监管规则定义水印为最高优先级 context_score = 0.92 # 水印覆盖区域无其他有效文本 final_conf = fuse_handwriting_confidence(watermark_ocr_conf, rule_priority, context_score) # 输出：0.85 * (0.3+0.7*1.0) * 0.92 ≈ 0.85 * 1.0 * 0.92 = 0.782 → 触发高危差异告警

2.4 跨模态融合特征：单据是“活”的，不是静态快照

结算单据的生命力在于模态间的动态咬合。文档第2.1.4节举了一个血泪案例：某券商收到对手方PDF，其中“佣金”字段打印值为¥12.50，但手写批注在旁写“应为¥12.56”，且该批注位置恰好覆盖二维码——扫码后显示的单据编号与结构化字段一致，证明PDF未被篡改。此时，视觉（手写）、文本（打印值）、视觉（二维码）三者形成证据链。DeepSeek-VL2的改造核心（第3章）正是构建这种跨模态证据网：

• 在编码层（第9章）将二维码解码结果作为独立模态输入
• 在特征融合层（第19章）设计空间注意力机制，强制模型关注“手写批注坐标”与“二维码坐标”的相对位置
• 在差异定位层（第39章）将三者一致性作为“高置信度差异”判定依据

避坑 / 常见问题 / 排查：结算单据多模态特征的四大翻车现场
现象1：PDF表格识别率骤降，但同一PDF用Adobe Acrobat打开正常
原因：券商内部PDF生成工具使用了非标准字体嵌入（如自定义Symbol字体），导致OCR引擎字典缺失。文档第6.2节指出，需在预处理阶段强制转为标准TrueType字体，而非依赖OCR自适应。
解决：用pdf2image转为PNG后，用fonttools检测字体嵌入状态，对非标准字体PDF走专用渲染路径。

现象2：手写批注识别结果与人工标注一致，但差异定位总失败
原因：模型仅学习了“文字内容”，未学习“书写位置语义”。例如批注写在“成交数量”字段右侧，业务含义是“补录数量”，但模型误判为“备注”。文档第8.2节要求，在标注数据集中必须包含坐标标签（x_min, y_min, x_max, y_max）。
解决：修改标注工具，强制记录手写区域边界框，并在训练时加入位置编码（Positional Encoding）。

现象3：跨模态融合后准确率反降，尤其金额类字段
原因：视觉特征（如墨渍）污染了文本特征。文档第19.3节发现，原始VL2的跨模态注意力会将“金额数字”与“旁边墨渍”错误关联。
解决：在注意力层前插入视觉掩码（Visual Mask），对非文本区域（如印章、水印）的视觉特征置零，仅保留文字区域特征。

现象4：同一张单据，白天扫描和夜间扫描识别结果差异大
原因：扫描仪自动曝光算法导致夜间扫描对比度降低，OCR对浅色手写字漏检。文档第4.4节要求，采集规范必须规定“扫描分辨率≥300dpi，对比度固定为75%”，并禁止使用自动优化模式。
解决：在数据采集环节部署校验脚本，对上传PDF自动检测对比度，超标则拒绝入库。

3. DeepSeek-VL2架构适配：不是微调，是给大模型装上结算业务的“神经反射弧”

很多人以为用DeepSeek-VL2做结算对账，就是加载预训练权重+微调几个epoch。文档第3章劈头盖脸打醒你：原生VL2是通用多模态模型，而结算对账是高度确定性的业务流程，必须重构其底层神经反射弧。这不是性能优化，而是功能重定义——让模型看到“作废水印”时，不只识别文字，立刻触发“状态字段强制覆盖”动作；看到“佣金”与“手续费”数值偏差超阈值时，不只标记差异，自动关联“交易类型”字段查是否为融资融券业务（因费率不同）。本章拆解610页文档中最具实操价值的三项底层改造，每项都附可运行代码。

3.1 输入层改造：结构化数据不再“扁平化”，而是注入业务拓扑

原生VL2将结构化数据（如JSON）转为纯文本输入，丢失了字段间的业务关系。文档第9.2节提出结构化数据图编码（Structured Data Graph Encoding）：将结算单据视为有向图，节点为字段（如settlement_amount），边为业务规则（如settlement_amount → depends_on → trade_price, trade_quantity）。

# data_graph_encoder.py 构建业务规则图 from networkx import DiGraph def build_settlement_graph() -> DiGraph: """ 根据《中国结算业务规则（2025版）》构建字段依赖图 此图在模型启动时加载，不可训练 """ G = DiGraph() # 添加节点：字段名 + 数据类型 G.add_node("settlement_amount", dtype="float", precision=2) G.add_node("trade_price", dtype="float", precision=4) G.add_node("trade_quantity", dtype="int") G.add_node("commission_rate", dtype="float", precision=6) # 添加边：业务依赖关系（带权重：规则严格性） G.add_edge("trade_price", "settlement_amount", weight=1.0) # 强依赖 G.add_edge("trade_quantity", "settlement_amount", weight=1.0) G.add_edge("commission_rate", "settlement_amount", weight=0.8) # 弱依赖（部分业务不计佣） return G # 在VL2输入编码器中注入图结构 class SettlementVL2InputEncoder(VL2InputEncoder): def __init__(self, *args, **kwargs): super().__init__(*args, **kwargs) self.rule_graph = build_settlement_graph() # 加载业务图 def encode_structured(self, structured_data: dict) -> torch.Tensor: """ 不再简单拼接字段，而是按图拓扑顺序编码 例：先编码trade_price, trade_quantity，再编码settlement_amount（因后者依赖前者） """ # 获取字段拓扑排序 topo_order = list(topological_sort(self.rule_graph)) encoded_features = [] for field in topo_order: if field in structured_data: # 对每个字段，编码其值 + 依赖字段的当前编码（实现信息流动） field_feat = self._encode_single_field(field, structured_data[field]) dep_feats = [encoded_features[i] for i, f in enumerate(topo_order) if f in self.rule_graph.predecessors(field)] if dep_feats: field_feat = torch.cat([field_feat, torch.mean(torch.stack(dep_feats), dim=0)], dim=-1) encoded_features.append(field_feat) return torch.cat(encoded_features, dim=0)

提示：文档第9.6节强调，此图编码必须与券商实际使用的结算系统版本强绑定。例如某券商用恒生UF2.0系统，其commission_rate字段实际存储为百分比（如5.0表示5%），而规则图中定义为小数（0.05），编码层需内置转换逻辑。

3.2 特征融合层改造：跨模态注意力不再是“看图说话”，而是“查规则办事”

原生VL2的跨模态注意力让文本和图像特征相互增强，但在结算场景，这会导致危险幻觉。文档第19章指出：当模型看到“金额：¥12.50”和旁边模糊的“¥12.56”手写批注时，原生注意力可能将两者平均为¥12.53，而业务要求必须二选一。因此，本方案在第19.3节设计规则引导的注意力门控（Rule-Gated Attention）：

# rule_gated_attention.py class RuleGatedMultiheadAttention(MultiheadAttention): def __init__(self, embed_dim, num_heads, dropout=0.0, **kwargs): super().__init__(embed_dim, num_heads, dropout, **kwargs) # 规则门控网络：根据当前query的业务类型，动态调整attention权重 self.rule_gate = nn.Sequential( nn.Linear(embed_dim, 64), nn.ReLU(), nn.Linear(64, num_heads) # 每个head独立门控 ) def forward(self, query, key, value, **kwargs): # 原始attention计算 attn_output, attn_weights = super().forward(query, key, value, **kwargs) # 规则门控：获取query的业务意图（如"amount_verification"） business_intent = self._infer_intent(query) # 通过轻量分类器 gate_weights = torch.sigmoid(self.rule_gate(business_intent)) # [batch, heads] # 门控后的attention输出 gated_attn = attn_output * gate_weights.unsqueeze(-1) return gated_attn, attn_weights def _infer_intent(self, query: torch.Tensor) -> torch.Tensor: """ 简单意图分类器：根据query向量判断当前任务类型 文档第19.6节提供预训练权重，支持快速迁移 """ # 使用预训练的intent classifier（3层MLP） intent_logits = self.intent_classifier(query.mean(dim=1)) # [batch, 5] return F.softmax(intent_logits, dim=-1) # [batch, 5]，5类：amount, text, table, stamp, handwriting

注意：文档第19.4节要求，门控权重必须可视化。生产环境中，每次推理需输出gate_weights热力图，供风控人员审查——例如当处理金额字段时，若handwritinghead的门控权重<0.1，说明模型主动忽略手写信息，需检查是否为墨渍干扰。

3.3 输出层改造：不是生成答案，而是执行业务动作序列

原生VL2输出是自由文本，但结算对账需要确定性动作。文档第33章定义动作驱动型输出（Action-Driven Output）：模型输出不是“差异原因：佣金计算错误”，而是结构化动作指令：

{ "action": "RECALCULATE", "target_field": "commission", "formula": "settlement_amount * commission_rate", "source_fields": ["settlement_amount", "commission_rate"], "confidence": 0.92 }

为实现此目标，第33.2节改造输出头：

# action_output_head.py class ActionOutputHead(nn.Module): def __init__(self, hidden_size: int, num_actions: int = 8): super().__init__() self.action_classifier = nn.Linear(hidden_size, num_actions) # 8种预设动作 self.field_selector = nn.Linear(hidden_size, 128) # 字段选择器（128维=所有可能字段） self.formula_generator = nn.Sequential( nn.Linear(hidden_size, 256), nn.ReLU(), nn.Linear(256, 64) # 公式token embedding ) def forward(self, last_hidden: torch.Tensor) -> Dict[str, torch.Tensor]: # 动作类型预测 action_logits = self.action_classifier(last_hidden[:, 0, :]) # CLS token # 目标字段预测（多标签） field_logits = self.field_selector(last_hidden[:, 0, :]) field_probs = torch.sigmoid(field_logits) # [batch, 128] # 公式生成（受限词汇表） formula_embed = self.formula_generator(last_hidden[:, 0, :]) # 公式token映射到预定义公式库（文档第33.3节定义23个标准公式） formula_id = torch.argmax(formula_embed @ self.formula_library.T, dim=-1) return { "action_logits": action_logits, "field_probs": field_probs, "formula_id": formula_id } # 预定义动作库（文档第33.1节） ACTION_SPACE = { 0: {"name": "RECALCULATE", "requires": ["target_field", "formula"]}, 1: {"name": "OVERWRITE", "requires": ["target_field", "value"]}, 2: {"name": "FLAG_FOR_REVIEW", "requires": ["reason"]}, # ... 其他5种动作 }

避坑 / 常见问题 / 排查：DeepSeek-VL2架构适配的三大血泪经验
现象1：模型在验证集上F1达92%，但上线后差异定位准确率仅68%
原因：原生VL2的输出头是自由文本生成，而业务需要确定性动作。微调时用交叉熵损失，但模型学会“说漂亮话”（如生成“可能为系统延迟”），而非执行FLAG_FOR_REVIEW动作。
解决：文档第33.5节强制要求，输出头必须用动作分类损失 + 字段选择损失 + 公式ID损失三重监督，且动作损失权重设为0.6（最高）。

现象2：跨模态注意力可视化显示，模型总在关注印章区域，但印章与当前核验字段无关
原因：原生VL2的视觉编码器对高频纹理（如印章锯齿）过敏感。文档第19.5节发现，需在视觉编码器末尾添加业务相关性过滤层（Business Relevance Filter）。
解决：用小型CNN对视觉特征图做二分类（相关/不相关），只保留相关区域特征。训练数据来自人工标注的10万张单据“关键区域”mask。

现象3：结构化数据图编码后，模型推理速度下降40%
原因：图遍历引入额外计算。文档第9.7节给出工程解法：图编码离线化 + 缓存。
解决：在数据预处理阶段，对每张单据预先计算图编码结果，存入Redis缓存（key=单据hash），推理时直接读取，避免实时图计算。

4. 多模态数据采集与预处理：610页文档里最枯燥却最致命的章节

工程师常把AI项目失败归咎于模型，但文档第4、5、6章用217页告诉你：80%的线上问题源于数据采集和预处理的“脏活累活”没干好。当PDF扫描件分辨率不足、手写批注被扫描仪自动锐化成噪点、Excel导出时日期格式错乱，再强的DeepSeek-VL2也束手无策。本章不讲高大上理论，只聚焦三个实操铁律：采集必须带校验、预处理必须可回滚、异常必须有兜底。每条都来自券商生产环境的真实踩坑记录。

4.1 数据采集：不是“收进来就行”，而是“收进来就验”

文档第4章开篇即立规矩：所有数据源接入必须通过“三验关”——格式验、内容验、业务验。

• 格式验：PDF必须符合PDF/A-1b标准（文档第4.2节），禁用JavaScript和加密；图片必须为PNG/JPEG，禁止WebP（因部分扫描仪WebP压缩导致手写字边缘失真）。
• 内容验：用pdfplumber提取PDF文本，若空文本率>5%，则标记为“高风险PDF”，走专用OCR通道。
• 业务验：对结构化数据，强制校验关键字段完整性。例如，券商结算单据必须含clearing_number（清算编号），缺失则拒绝入库。

# data_collector.py 采集校验主逻辑 def validate_and_ingest(data_path: str) -> Dict[str, Any]: """ 三验关校验主函数 返回：校验结果 + 预处理后数据对象 """ result = {"status": "pending", "errors": []} # 格式验 if data_path.endswith(".pdf"): if not is_pdfa_compliant(data_path): result["errors"].append("PDF not PDF/A-1b compliant") result["status"] = "rejected" return result elif data_path.endswith((".png", ".jpg")): if not is_valid_image_format(data_path): result["errors"].append("Image format invalid (WebP prohibited)") result["status"] = "rejected" return result # 内容验 if data_path.endswith(".pdf"): text_content = extract_pdf_text(data_path) if len(text_content.strip()) == 0: result["errors"].append("PDF text extraction empty -> high-risk OCR path") result["ocr_path"] = "high_risk" # 启用高精度OCR else: result["ocr_path"] = "standard" # 业务验：检查关键字段 structured_data = try_load_structured(data_path) if structured_data: required_fields = ["clearing_number", "trade_date", "settlement_amount"] missing_fields = [f for f in required_fields if f not in structured_data] if missing_fields: result["errors"].append(f"Missing required fields: {missing_fields}") result["status"] = "rejected" return result # 三验通过，执行预处理 processed_data = preprocess_data(data_path, result["ocr_path"]) result.update({ "status": "accepted", "processed_data": processed_data, "metadata": { "source_hash": calculate_file_hash(data_path), "ingest_time": datetime.now().isoformat() } }) return result # PDF/A合规性检查（文档第4.3节要求） def is_pdfa_compliant(pdf_path: str) -> bool: """ 调用veraPDF CLI进行PDF/A-1b验证 文档第4.3节提供veraPDF配置文件（verapdf_config.xml） """ try: result = subprocess.run( ["verapdf", "--format", "json", "--policy", "verapdf_config.xml", pdf_path], capture_output=True, text=True, timeout=30 ) if result.returncode == 0: report = json.loads(result.stdout) return report.get("isCompliant", False) except Exception as e: logger.warning(f"veraPDF check failed for {pdf_path}: {e}") return False

提示：文档第4.5节强调，所有校验必须记录完整日志，包括source_hash（文件哈希）和ingest_time（入库时间）。这是后续问题追溯的唯一依据——当某批次单据出现批量识别错误时，可通过哈希快速定位是采集环节还是预处理环节的问题。

4.2 结构化数据预处理：格式校验不是“正则匹配”，而是“业务公式校验”

文档第5章颠覆认知：结构化数据（如Excel）的预处理，重点不是清洗空值，而是用业务公式反向校验字段逻辑。例如，“成交金额=成交价格×成交数量”是铁律，若Excel中三者数值不满足此关系，要么是数据错误，要么是字段映射错误（如把“佣金”列误当“成交价格”）。

# structured_preprocessor.py 业务公式校验 def validate_structured_logic(df: pd.DataFrame) -> pd.DataFrame: """ 基于业务规则的字段逻辑校验 文档第5.3节定义12条核心公式，此处实现3条典型 """ # 规则1：成交金额 = 成交价格 × 成交数量 if all(col in df.columns for col in ["trade_price", "trade_quantity", "trade_amount"]): calculated_amount = df["trade_price"] * df["trade_quantity"] diff = abs(df["trade_amount"] - calculated_amount) # 允许0.01元四舍五入误差 df.loc[diff > 0.01, "trade_amount_status"] = "error" df.loc[(diff <= 0.01) & (diff > 0), "trade_amount_status"] = "rounded" # 规则2：结算净额 = 买入金额 - 卖出金额 - 佣金 - 印花税 - 过户费 settlement_cols = ["buy_amount", "sell_amount", "commission", "stamp_tax", "transfer_fee", "settlement_net"] if all(col in df.columns for col in settlement_cols): calculated_net = (df["buy_amount"] - df["sell_amount"] - df["commission"] - df["stamp_tax"] - df["transfer_fee"]) diff = abs(df["settlement_net"] - calculated_net) df.loc[diff > 0.01, "settlement_net_status"] = "error" # 规则3：交易日期 ≤ 清算日期 ≤ 到账日期（时间先后逻辑） date_cols = ["trade_date", "clear_date", "arrival_date"] if all(col in df.columns for col in date_cols): # 转换为datetime dates = df[date_cols].apply(pd.to_datetime, errors='coerce') # 检查时间逻辑 invalid_logic = ~((dates["trade_date"] <= dates["clear_date"]) & (dates["clear_date"] <= dates["arrival_date"])) df.loc[invalid_logic, "date_logic_status"] = "invalid" return df # 清洗策略：不是删除，而是标记+分流（文档第5.4节） def clean_structured_data(df: pd.DataFrame) -> Tuple[pd.DataFrame, pd.DataFrame]: """ 返回：清洗后数据 + 待人工复核数据 文档第5.4节要求，所有"error"状态字段必须进入人工复核队列 """ # 创建复核队列 review_queue = df[df["trade_amount_status"] == "error"].copy() review_queue["review_reason"] = "trade_amount_formula_mismatch" # 清洗主数据：仅修正"rounded"状态 df_clean = df.copy() df_clean.loc[df["trade_amount_status"] == "rounded", "trade_amount"] = ( df_clean["trade_price"] * df_clean["trade_quantity"] ) return df_clean, review_queue

注意：文档第5.5节警告，禁止在预处理中“智能填充”缺失值。例如commission字段为空，不能用均值填充，而必须标记为commission_status="missing"，由后续差异定位模块决定是否需人工补录。这是防止模型学习虚假相关性的底线。

4.3 非结构化单据预处理：PDF/图片不是“喂给OCR就行”，而是“按业务场景切片”

文档第6章指出：结算单据的OCR不是通用OCR，而是场景化OCR。PDF单据需区分“矢量文本”（可直接提取）和“图片表格”（需OCR）；扫描图片需按区域切片——印章区用高对比度增强，手写区用去噪滤波，表格区用二值化。

# document_segmenter.py 单据智能切片 def segment_document(doc_path: str) -> Dict[str, Image.Image]: """ 将单据按业务区域切片，返回各区域图像 文档第6.2节定义5类区域：header, table, handwriting, stamp, watermark """ if doc_path.endswith(".pdf"): # PDF矢量化处理 images = convert_from_path(doc_path, dpi=300) page_img = images[0] # 仅处理第一页（结算单据通常单页） else: page_img = Image.open(doc_path) # 使用预训练的区域检测模型（文档第6.1节提供YOLOv8s模型） detector = load_yolo_model("settlement_region_detector.pt") results = detector(page_img) segments = {} for result in results: for box in result.boxes: cls_id = int(box.cls.item()) cls_name = detector.names[cls_id] x1, y1, x2, y2 = map(int, box.xyxy[0].tolist()) crop_img = page_img.crop((x1, y1, x2, y2)) # 按区域类型应用不同预处理 if cls_name == "handwriting": # 手写区：去噪 + 锐化 crop_img = denoise_and_sharpen(crop_img) elif cls_name == "stamp": # 印章区：高对比度增强 crop_img = enhance_contrast(crop_img, clip_limit=3.0) elif cls_name == "table": # 表格区：二值化 + 线条增强 crop_img = binarize_and_enhance_lines(crop_img) segments[cls_name] = crop_img return segments # 手写区去噪锐化（文档第6.3节参数） def denoise_and_sharpen(img: Image.Image) -> Image.Image: """ 针对手写批注的专用预处理 文档第6.3节实测：高斯模糊半径=0.8，锐化强度=1.2 效果最佳 """ # 转为OpenCV格式 cv_img = np.array(img) cv_img = cv2.cvtColor(cv_img, cv2.COLOR_RGB2BGR) # 高斯 <p> <a href="https://download.csdn.net/download/ashyyyy/90378681" style="color:#ec7500;font-size:14px;"> 本文还有配套的精品资源，点击获取 </a> <img alt="menu-r.4af5f7ec.gif" src="https://csdnimg.cn/release/wenkucmsfe/public/img/menu-r.4af5f7ec.gif" style="width:16px;margin-left:4px;vertical-align:text-bottom;cursor:text;"> </p>