一夜变天:当大模型撞上深度图学习

AI Engineering
#AI#Software Engineering#Architecture#Best Practices

这是「从炼丹到通用」系列的第二篇。

第一篇复盘了 2024 年的 DGI 项目——12 步 pipeline、日级专家模型、知识蒸馏、反馈闭环。这篇要回答的问题是:2024 到 2026 年,LLM 从”玩具”变成”基础设施”的过程中,那个 DGI 项目哪些部分被一夜颠覆,哪些部分意外幸存?

不是”LLM 赢了 DGI 输了”的简单叙事。是两种技术路线在各自战场上的真实碰撞。


一、2024 年的 LLM 是什么水平

要理解”变天”的剧烈程度,得先回忆一下 2024 年的 LLM 是什么状态。

GPT-4 已经发布了,但企业里的主流用法是”写邮件、改代码、做客服问答”。让它理解一笔支付交易的会计分录?让它判断”把应收款挂到待处理科目”是不是异常?2024 年的共识是:LLM 不懂业务,不能用于生产环境的决策。

当时的顾虑很具体,而且每一条都有真实的成本:

幻觉问题。2024 年的行业测试显示,GPT-4 在金融术语上的幻觉率约为 15-20%——它会一本正经地胡说八道,把”应付用户”说成”应收渠道”,把退款流程编造成结算流程。在金融场景里,一个错误的科目判断可能导致百万级资金差错。这个风险让企业不敢把 LLM 放进核心决策链。

上下文窗口限制。GPT-4 的 32K 上下文(约 2.4 万汉字),塞不下十亿级交易数据的任何有意义的子集。你想让 LLM 分析一个商户的全年交易模式?先把数据压缩成摘要,但压缩过程本身就丢失了关键信号。当时我们试过把交易数据转成 CSV 摘要塞进 Prompt,结果 LLM 对”金额异常”的判断准确率还不如规则引擎。

延迟和成本。2024 年 GPT-4 API 的推理成本是每百万 token 30 美元,单次调用延迟 2-5 秒。十亿级交易流水,每笔都过一遍 LLM?成本是每天 300 万美元,延迟是业务不可接受的——用户支付完要等 5 秒才知道是否成功?

可解释性缺失。LLM 说”这笔交易异常”,你问”为什么”,它给出一个看似合理的解释。但这个解释是生成的,不是推导的——它可能和模型的真实推理路径完全无关。金融监管场景里,“为什么异常”比”是否异常”更重要。2024 年的合规团队对 LLM 的普遍态度是:“你可以辅助,但不能做主。”

所以 2024 年的行业分工很清晰:LLM 做文本生成、对话、内容理解;深度学习模型(DGI、GNN、时序模型)做结构化数据分析、异常检测、实时决策。 两条路线井水不犯河水。


二、2025-2026 年发生了什么

变化不是渐进的,是几个关键节点叠加的”跃迁”。

第一个节点:上下文窗口的指数级扩展。 2024 年底 Anthropic 的 Claude 2.1 推出 200K 上下文(约 15 万汉字),2025 年 Google Gemini 1.5 Pro 达到 1M token,2026 年初主流模型已经能处理 2M+ token 的文档。这意味着什么?意味着你可以把一整年的交易摘要、会计制度、风控规则、历史审计报告一次性塞进 Prompt,让 LLM 做跨文档的关联分析——这是 2024 年完全做不到的。

第二个节点:工具调用(Function Calling)的标准化。 2024 年的 LLM 是”哑巴”——它只能生成文本,不能调用 API、不能查询数据库、不能执行代码。2025 年 OpenAI 的 Functions 特性成熟,2026 年的 MCP(Model Context Protocol)成为事实标准,让 LLM 变成了”有手有脚”的 Agent。它可以查询交易记录、调用风控规则、生成报表——不是生成”看起来对”的文本,是执行”确定对”的操作。这个变化的关键在于:LLM 的输出不再是”建议”,而是可以触发确定性操作的”指令”。

第三个节点:推理成本的断崖式下降。 2024 年 GPT-4 API 的定价是输入 $30/百万 token、输出 $60/百万 token。2025 年 GPT-4 Turbo 降到 $10/$30。2026 年开源模型(Llama 3 70B、Qwen 2.5 72B)的本地部署成本,在 A100 集群上摊薄后约为 $0.3/百万 token——两个数量级的差距。这意味着”每笔交易过一遍轻量 LLM”从”每天 300 万美元”降到了”每天 3 万美元”——依然不便宜,但进入了”可讨论”的范围。

第四个节点:行业认知的集体转变。 不是技术先变,是认知先变。2025 年蚂蚁集团公开披露:其智能风控系统引入 LLM 后,规则引擎审核量下降 60%,人工复核量下降 70%,新型欺诈识别率提升 35%。这个消息像炸弹一样——不是创业公司的小实验,是行业标杆的正式宣告。2026 年,头部支付平台的风控团队里,“LLM 辅助决策”已经从”试点项目”变成了”标准配置”。

这四个节点叠加,构成了”一夜变天”的底层逻辑。不是 LLM 突然变聪明了,是它从”不能用于生产”变成了”可以用于生产”——上下文够长、能调用工具、成本可承受、有行业先例。


三、DGI 项目哪些部分被颠覆了

回到那个 12 步 pipeline 的 DGI 项目。LLM 的崛起,直接颠覆了其中 4 个核心环节。

1. 语义理解:从”硬编码规则”到”自然语言理解”

DGI 项目最大的工程负担,是让模型理解业务语义

节点命名用了”科目代码_实体ID”的格式,比如 2201_U000270。这个命名是人工设计的规则——把业务知识硬编码进数据结构。DGI 本身不理解”2201 是应付用户”,它只看到这个字符串和那个字符串相似。

为了补语义,我们做了多维度标注(6 个维度)、层次聚类(自动标注 event_type)、决策树聚类(试图解释为什么异常)。5 个步骤,本质上都是在做同一件事:把人类理解的业务语义,翻译成模型能处理的结构化信号。

这个翻译过程的代价很高。2024 年,支付平台上线了一个新的数字人民币渠道,科目体系里新增了”数字人民币存款”和”数字人民币应付”。我们的应对是:

  • 第一步:财务团队提供新科目的定义和分录规则
  • 第二步:工程师更新节点命名规则,把新科目编码进系统
  • 第三步:重新跑 ETL,生成包含新科目的图数据
  • 第四步:重新训练 DGI 模型,让模型”学习”新科目的嵌入表示
  • 第五步:更新聚类标注,让自动标注能识别新科目的交易类型

整个过程花了两周。两周里,新渠道的交易数据已经积累了数百万笔,但模型对它们没有任何概念——因为模型还没”学”到。

2026 年的 LLM 不需要这些翻译。你把会计科目表丢给它,它就知道”2201 应付用户”是什么意思。你把新渠道的业务文档给它,它就能理解”数字人民币双离线支付”的资金流向。新渠道上线当天,LLM 就能做语义分析——不需要两周的 pipeline 重建。

不是 LLM 比 DGI 更”聪明”,是 LLM 把语义理解内化了。 DGI 的嵌入表示是”节点 A 和节点 B 在图结构上相似”,LLM 的理解是”节点 A 是应付用户,节点 B 是应收渠道,它们之间的资金流动代表支付成功”。前者是结构相似,后者是语义理解——两个维度,不是替代关系,但在这个具体场景下,语义理解比结构相似更直接。

2. 异常解释:从”黑盒嵌入”到”可解释推理”

DGI 检测到异常后,输出的是一个嵌入向量——一个 512 维的数字数组。运营人员拿到这个数组,完全不知道”为什么异常”。

为了补可解释性,我们做了决策树聚类、嵌入空间决策树、账号语义映射——试图把高维嵌入映射回人类可理解的规则。但这些方法都不稳定:聚类依赖初始中心点,决策树对高维数据过拟合,语义映射是人工规则的另一层包装。

2026 年的 LLM 可以直接解释:“这笔交易异常,因为支付成功的标准分录应该是 DR 应收渠道 / CR 应付用户,但这笔分录把贷方记到了’待处理款项’,这是资金挪用的典型手法。”

不是 LLM 的推理更可靠,是它的输出人类能看懂。 DGI 的嵌入表示在数学上可能更精确,但”精确但不可解释”在生产环境里价值有限。金融监管要求”可审计、可解释”,LLM 的生成式解释虽然也是概率性的,但至少是”人类语言”,可以被审核、被质疑、被修正。

3. 新型异常检测:从”只学正常”到”零样本识别”

DGI 的核心假设是”只学正常,不学异常”——正常样本足够多,异常样本足够少,让模型对正常模式过拟合,遇到偏离就告警。

这个假设在 2024 年是合理的,但它有一个致命弱点:对没见过的新型异常零样本能力差。 如果攻击者发明了一种全新的挪用手段——比如利用数字人民币的双离线支付特性做资金滞留——DGI 没有任何概念,因为它从未在训练数据里见过这种模式。

2026 年的 LLM 有零样本推理能力。你把数字人民币的业务规则、支付流程、已知风险描述给它,它能推导出”双离线支付在特定场景下可能被用于资金滞留”——不需要见过这种攻击案例,只需要理解业务逻辑。

不是 LLM 比 DGI 更”泛化”,是它们的泛化机制不同。 DGI 的泛化是统计泛化——“和训练数据相似的,就是正常”。LLM 的泛化是语义泛化——“符合业务逻辑的,就是正常;偏离业务逻辑的,就是异常”。在新型攻击场景下,语义泛化比统计泛化更有价值。

4. 反馈闭环:从”人工标注驱动”到”自然语言交互”

DGI 的反馈闭环依赖人工标注——运营人员逐笔审核异常,确认的是异常、误判的是正常。标注质量不稳定、成本高、周期长。

2026 年的 LLM 改变了反馈的交互方式。运营人员不需要学习复杂的标注界面,可以直接用自然语言和 LLM 对话:“这笔交易我觉得不是异常,因为商户是跨境电商,大额结算是正常的。” LLM 理解这个反馈,更新自己的判断逻辑。

不是 LLM 消除了反馈成本,是降低了反馈门槛。 人工标注还在,但交互方式从”点选标签”变成了”自然语言描述”。描述里包含的语义信息(“跨境电商”、“大额结算”)比单纯的”正常/异常”标签更丰富,反馈效率更高。


四、DGI 项目哪些部分意外幸存

但”颠覆”不是全部。LLM 的崛起,恰恰让 DGI 项目的某些能力变得更有价值。

1. 实时性:嵌入计算的不可替代性

LLM 的推理延迟是秒级的。2024 年的 GPT-4 API 调用延迟约为 2-5 秒(取决于 token 长度和网络状况)。2026 年本地部署的轻量模型(如 Llama 3 8B)可以把延迟降到 0.5-1 秒,但对于支付场景的实时风控来说,这依然是不可接受的——用户支付完要等 1 秒才知道是否成功?在秒杀场景里,1 秒的延迟意味着订单流失。

DGI 的嵌入计算是毫秒级的。图构建(预构图后直接从磁盘加载)约 5-10 毫秒,GCN 前向传播在 A100 上约 15-20 毫秒,嵌入生成约 5 毫秒——整个流程在 GPU 上可以在 30-50 毫秒内完成。这个速度优势,在实时交易监控场景里是不可替代的。

2026 年的最佳实践不是”用 LLM 替代 DGI”,是**“DGI 做实时初筛,LLM 做深度复核”**。DGI 在 50 毫秒内标记”可疑”,LLM 在 1 秒内做”确认”——两者分工,不是替代。十亿级交易流水里,DGI 筛掉 99% 的明显正常交易,只有 1% 的”可疑”进入 LLM 的复核队列——这样 LLM 的成本和延迟都变得可承受。

2. 结构化推理:图网络的独特优势

LLM 擅长语义理解,但它在结构化关系推理上有天然短板。一笔交易涉及多个节点(用户、商户、渠道、银行),资金流动是多跳的、有向的、带权重的。LLM 理解”用户付了钱给商户”这个语义,但让它推理”这笔钱经过渠道 A 和渠道 B 的清算链路,最终到达商户账户”——这种多跳结构化推理,LLM 容易出错。

DGI(图神经网络)的设计目标就是捕捉图结构的拓扑特征。节点之间的连接关系、边的方向、路径长度——这些结构化信号,DGI 天然擅长,LLM 天然不擅长。

2026 年的融合架构里,DGI 负责”结构化特征提取”,LLM 负责”语义理解和解释”——各司其职。

3. 成本结构:嵌入计算的规模效应

LLM 的推理成本虽然下降了两个数量级,但按 token 计费的模式决定了它的成本随数据量线性增长。2026 年本地部署的轻量 LLM(Llama 3 8B)成本约为 $0.3/百万 token,但十亿级交易流水,每笔交易平均产生 500 token 的 Prompt(交易描述 + 上下文 + 指令),总成本是:

$$10^9 \times 500 \times $0.3 / 10^6 = $150,000/天$$

15 万美元一天,一年 5400 万美元——这不是”贵但可承受”,是”贵到需要 CEO 审批”。

DGI 的嵌入计算是一次性的——训练好的模型,前向传播的成本几乎为零(GPU 的固定成本,不随数据量增长)。A100 集群的折旧成本约为 $2/小时/卡,10 张卡并行处理十亿级数据,总成本约为:

$$10 \times $2 \times 24 = $480/天$$

480 美元一天,和 LLM 的 15 万美元差了 300 倍

这个成本结构差异,决定了DGI 适合大规模实时处理,LLM 适合小批量深度分析。不是谁更便宜,是成本模型不同,适用场景不同。DGI 处理 100% 的交易,LLM 处理 DGI 筛出的 1% 的”可疑”——两者配合,总成本可控。

4. 可审计性:确定性计算的合规优势

LLM 的输出是概率性的——同样的输入,两次推理可能给出不同的结论。这在金融监管场景里是问题:“为什么上周这笔交易被判正常,这周同样的交易被判异常?”

DGI 的嵌入计算是确定性的——同样的图结构,永远产生同样的嵌入向量。这个确定性,在合规审计场景里有不可替代的价值。你可以复现、可以验证、可以追溯。

2026 年的融合架构里,DGI 的确定性输出作为”基础判决”,LLM 的概率性输出作为”补充解释”——确定性保证合规底线,概率性提供灵活上限。


五、反直觉的发现:LLM 让某些”过时”技术更重要了

最有趣的发现不是”哪些被替代”,而是**“LLM 的崛起,反而让某些 2024 年的’过时’技术变得更重要”**。

符号化规则引擎的回归

2024 年,我们花了很大力气把规则引擎替换成 DGI——规则引擎太 rigid,无法适应新型异常。2026 年,LLM 的崛起让符号化规则引擎重新变得重要,而且角色完全变了。

为什么?因为 LLM 的输出是概率性的,需要一层确定性的校验来兜底。2026 年的融合架构里,规则引擎不是”主要判决者”,是**“确定性守门员”**。

具体怎么衔接?以一笔交易的审核流程为例:

交易进来 → DGI 实时嵌入生成(50ms)→ 向量相似度初筛(10ms)

规则引擎硬性校验(5ms):借贷是否平衡?金额是否超限?

如果违反硬性规则 → 直接拦截(确定性判决)
如果没违反 → 进入 LLM 深度分析(1s)

LLM 输出:异常概率 + 解释理由

人工复核(高风险)或自动放行(低风险)

规则引擎在这个流程里只做一件事:检查已知的、不可违反的硬性约束。它的角色从”判断异常”变成了”守住底线”——但守住底线,恰恰比判断异常更重要。因为底线被突破的后果是确定的(资金损失),而异常判断的后果是概率的(可能误杀)。

LLM 没有杀死规则引擎,它让规则引擎的角色从”主要判决者”变成了”底线守门员”。 角色变了,但重要性没变——甚至更重要了,因为它是整个系统的确定性锚点。

向量数据库的爆发

2024 年,我们用 Elasticsearch 做向量搜索,是权宜之计——ES 不是为向量设计的,十亿级向量的实时搜索延迟在 500ms-2s 之间,而且随着数据量增长线性恶化。我们当时试过用 LSH(局部敏感哈希)加速,但 Hash 碰撞导致的精度损失让召回率从 95% 掉到 70%——漏掉了 25% 的潜在异常。

2025-2026 年,专用向量数据库爆发式增长。Milvus 2.3 支持十亿级向量的实时检索(延迟 < 100ms),Weaviate 的 HNSW 索引在同等规模下延迟 < 50ms,Pinecone 的托管服务让运维成本接近于零。这些数据库的底层是专门为高维向量设计的索引结构(HNSW、IVF-PQ),不是通用搜索引擎的补丁。

DGI 项目里的”向量相似度搜索”思路,在 2026 年有了更好的基础设施。但这不是”DGI 超前了”,是**“DGI 的需求推动了基础设施的进化”**——先有需求,后有工具。2024 年的我们用 Elasticsearch + LSH 做向量搜索,是”在自行车上装火箭发动机”;2026 年的我们用 Milvus 或 Weaviate,是”开上了专门为火箭设计的跑车”。

知识图谱的复兴

2024 年,知识图谱在工业界已经有点”过气”——构建成本高、维护困难、效果不如端到端深度学习。2026 年,LLM 让知识图谱重新变得重要。

因为 LLM 需要结构化的知识源来减少幻觉。你把会计科目体系、支付流程、风控规则构建成知识图谱,LLM 在推理时查询图谱——不是凭空生成,是基于结构化知识推导。DGI 项目里的”图结构”思路,在知识图谱的复兴中找到了新的表达形式。


六、核心结论:不是替代,是分工

2024 到 2026 年的”变天”,不是”LLM 赢了 DGI 输了”。是技术分工的重新划定

能力维度DGI(图深度学习)LLM(大语言模型)
实时性毫秒级,不可替代秒级,不适合实时
结构化推理拓扑特征,天然擅长多跳关系,容易出错
语义理解需要硬编码补偿内化理解,直接可用
异常解释黑盒嵌入,不可解释生成式解释,人类可读
新型异常零样本能力差语义泛化,零样本识别
成本模型固定成本,规模无关按 token 计费,线性增长
确定性确定性计算,可审计概率性输出,需校验

2026 年的最佳实践不是”选 DGI 还是选 LLM”,是”DGI 做它擅长的,LLM 做它擅长的,中间用确定性边界衔接”。

DGI 负责实时嵌入生成、结构化特征提取、大规模批量处理——这些是它的主场。LLM 负责语义理解、异常解释、新型模式识别、自然语言交互——这些是它的主场。两者之间的衔接层,用符号化规则引擎做确定性校验,用向量数据库做相似度搜索,用知识图谱做结构化知识源。

一夜变天的不是技术本身,是”技术分工的认知”。 2024 年我们认为”一个模型解决所有问题”,2026 年我们知道”不同模型解决不同问题,边界比能力更重要”。


“2024 年的我,试图用 DGI 的嵌入表示解决所有问题。2026 年的我知道,嵌入表示只是原料,怎么烹饪、配什么调料、用什么火候——这些才是问题。”

“LLM 没有让 DGI 过时,它让 DGI 的定位更清晰了。就像电冰箱没有让菜刀过时,它只是让厨房的分工更明确了。”

“一夜变天的不是技术,是我们对技术的理解。”


本文首发于「谢先生的 AI 深析札记」

下一篇预告:「通用与垂直」——BOUND 原则的诞生,本质上是在回答”通用能力 + 垂直约束”如何融合。