数学圈与人工智能界的界限,正在被彻底打破。
作者丨高允毅
编辑丨马晓宁
那些原本只存在于象牙塔深处的纯数学硬核成果,如今已直接铺进了大模型训练的一线战场。
小红书博主Z9在梳理文献时偶然发现,此前刷屏全网的三维挂谷猜想,已被佛罗里达大学的研究团队引入神经网络训练流程,试图跨界攻克大模型的“黑盒”难题。
他们发表的论文名为《GeoLAN: Geometric Learning of Latent Explanatory Directions in Large Language Models》。其核心逻辑在于,借用证明挂谷猜想过程中衍生出的关键概念——“粘性挂谷集”,为LLM内部庞杂的语义空间确立一套严格的“摆放规范”。通过在训练初期就将纠缠不清的概念理顺,让AI的思考路径具备真正的可追溯性。
这局面可谓:前头有数学家披荆斩棘开辟荒地,后头有AI研究员如获至宝般捡拾硕果。
01
大模型的底层顽疾:表征坍塌
咱们先从大家都感同身受的“黑盒问题”聊起。
当下的主流大模型,无论是解题、写代码还是做分析,准确率都相当可观。可一旦追问它“这一步推理是怎么来的”,它往往支支吾吾说不清,或者直接胡编乱造一个理由来搪塞。
这一弊病的根源,深埋在一个被称为“表征坍塌”的基础特性之中。
不妨将大模型的语义空间比作一座拥有数千层楼的高智能仓库。理论上,这里应当能井井有条地容纳海量概念:逻辑、情感、事实、推理等,各自占据独立区域。
但在Transformer的训练机制中,模型表现出了一种极致的“懒惰”倾向。它倾向于把所有语义信息统统堆砌在仓库入口的一小块狭窄区域内,导致剩余 90% 的空间完全闲置,无人问津。
结果便是,所有概念被迫挤压在一个狭窄的高维锥形区域里,学术界将此现象称为“各向异性”。
这种拥挤状态引发了连锁反应。
概念之间的纠缠变得难以剥离,毫不相干的内容被强行塞入同一方向。比如,某个神经元可能既要响应“猫”这个意象,又要激活关于“圣经经文”的记忆。
更糟糕的是,你根本无法厘清哪部分表征对应哪条逻辑链条,甚至连模型自身都无法还原真实的思考轨迹。
当相近却不同的概念被压缩在一起,混淆便随之而来。只需微调提问方式,AI就极易产生幻觉。
对此,该论文给出了精准的诊断:少数几个充当“流氓角色”的维度,霸占了绝大部分的信息方差,致使模型的有效容量遭到严重浪费。
几乎每一款主流的Transformer架构都深受此害,从GPT系列到Llama,再到Gemma,无一能够幸免。
面对这一困局,行业此前的应对策略多为“事后补救”。即在模型训练结束后,借助稀疏自编码器等工具,强行拆解那些纠缠在一起的表示。
但这种做法拆出来的结果仅停留在“表面合理”,未必贴合模型内部的真实逻辑,保真度始终存在短板。
GeoLAN的思路则另辟蹊径:不再等待混乱发生后再去整理,而是在起始阶段就立下规矩。它在整个训练过程中对表征空间施加几何约束,确保每个概念都能各安其位。
02
挂谷猜想如何与AI产生关联?
要读懂GeoLAN的设计初衷,得先搞清楚挂谷猜想到底在讨论什么。
时间回溯到 1917 年,数学家挂谷宗一提出了一个看似简单,却令数学界困扰半个世纪的难题:若将一根长度为 1 厘米的针在桌面上旋转一周,它所扫过的最小面积是多少?
常人直觉认为,转一圈必然画出一个圆圈,面积不可能太小。但数学家们发现,这个面积可以无限接近于零。
究竟怎么做到的?
如果让针在旋转的同时进行滑动,它竟然能扫出一个面积近乎为零的奇异图形。这意味着在二维世界里,全方位的几何轨迹可以被塞进一个极小的角落。
挑战随即升级:若是置于三维空间呢?当这根针能在上下左右及无数立体方向上自由旋转,要将这些全方向的轨迹收纳进一个空间,该空间的最小体积是多少?
依据二维经验的推演,在三维空间中,这个图形的绝对体积同样可以被压缩至趋近于零。
但这引出了一个新谜题:虽然图形在宏观上空洞无物,但其微观结构是否也随之萎缩退化?为此,数学家引入了“分形维数”来衡量其骨架的致密程度。
最终,王虹等人证实,即便将图形的体积压榨得再空旷,为了容纳每一个方向的针,其内部交织的骨架依然保持着坚实的“三维饱满度”,在微观层面并未发生任何退化。这正是王虹终结这一世纪难题的关键所在。
正是在这项硬核的证明工作中,诞生了一个至关重要的概念:“粘性挂谷集”。
所谓“粘性”,本质上是一套防止过度聚集的规则。它专门约束线段和管状结构的分布,阻止它们相互重叠扎堆。
如果一组管子遵循这套规则,它们便会有序铺开,占据应有的空间;反之,若不守规矩,全部挤在角落,空间的“体量”就会缩水,呈现出被压扁的状态。
看到这里,大家应该能建立联系了:大模型出现的表征坍塌,本质上就是“语义管子不满足粘性条件,从而挤作一团”。
GeoLAN的做法,是直接将挂谷猜想的数学结论转化为工程标准:既然数学上已严格证明“满足粘性则空间不坍缩”,那么就给大模型的语义空间植入同款粘性约束,使其表征天然避免拥挤。
要将这一规则嵌入训练流程,关键在于构建一个可量化的惩罚函数,即让模型能够计算并据此调整的具体惩罚机制。
为此,GeoLAN设计了两套可计算的惩罚规则,将挂谷猜想中的几何法则转化为训练目标。分别是针对“语义扎堆”的KT-CW,以及针对“注意力偷懒”的KT-Attn。
KT-CW的逻辑相对直观:在训练期间随机抽查语义空间的不同方向。一旦发现某方向堆积了过多语义信息,便对模型进行扣分。此举迫使模型将知识均匀铺设至高维空间的各个角落,充分利用此前被废弃的维度,从根源上解决“拥挤”问题。
另一套KT-Attn则专门整治注意力机制的懈怠行为。在大模型训练后期,注意力头容易陷入严重的同质化陷阱,许多头终日只盯着同一个词或位置打转,真正有效工作的劳动力寥寥无几。这条规则强制规定每个注意力头必须关注截然不同的语义区域,确保注意力实现全方位覆盖,从而彻底根治注意力头的秩坍缩现象。
这套组合拳效果立竿见影。
在Llama-3-8B模型上,GeoLAN成功将原本被挤压变形的锥形表征空间重塑为圆润的球形,显著降低了聚集程度,大幅提升了各方向的均匀性,同时未牺牲任务准确率。
在Gemma-3-4B模型上,MMLU测试准确率由 0.59 提升至 0.60 ,增幅约 0.75% 。TruthfulQA指标的语义稳定性也得到显著改善。
在参数量更大的Gemma-3-12B模型上,偏见率指标也在统计学层面出现了明显下降。
更为有趣的是,论文揭示了一个名为“金凤花区”的现象。
过于严苛的均匀分布几何约束,对于参数量过小的模型而言反而是一场灾难。小模型天生依赖概念纠缠来实现极致的语义压缩,强行打散只会导致其内部几何结构彻底恶化。
而对于体量庞大的巨无霸模型,其漫长的预训练过程已经自发构建了极其复杂的流形结构。此时再叠加这套规则,不仅会出现水土不服,还会拖累整体性能。
唯有像四亿至八十亿参数这样的中等体量模型,恰好拥有足够的空间来消化均匀分布带来的红利,因此效果最佳。
此外,论文还推导出了一个精妙的定理——“语义粘性定理”:当表征满足“防挤规则”时,不同的语义概念会自动分解为近似互相垂直的子空间。论文将其形象地比喻为“颗粒”。每个子空间均可独立解释、独立调整,这意味着困扰业界多年的黑盒问题从此变得透明可视。
一篇ACL级别的论文,一把将挂谷猜想从纯数学的神坛拉入了AI工程的现实世界。
03
菲尔兹奖得主当天宣布入职OpenAI
另一个值得关注的动态是,本届菲尔兹奖得主之一,数学家Jacob Tsimerman,在获奖当天便宣布,他将在不久后加入OpenAI,投身于AI安全领域的研究。
此举再次凸显了前沿数学与人工智能之间日益紧密的联系。
就在一年前,他与伯克利AI安全研究者Andrew Critch共同发表了论文《A Taxonomy of Omnicidal Futures Involving Artificial Intelligence》,以数学家特有的极致严谨,为AI潜在的风险路径搭建了一套严密的分类体系。
作为AI技术的重度受益者,他在 2025 年于arXiv平台上发布了 5 篇数学论文,直言AI使他的科研产出效率直接翻了一番。
更具戏剧性的是,在颁奖前三天,有人借助Anthropic最新的Claude Fable 5模型,在一夜之间推翻了悬置 87 年的雅可比猜想,震动了全球数学界。而这位操作者,正是他的学生Levent Alpöge。
面对AI不断逼近甚至超越顶级数学家“智商”的趋势,数学泰斗蒂莫 Timothy Gowers公开感叹:这是他生平首次目睹大语言模型在自己完全陌生的领域,轻松攻克家喻户晓的世纪难题。
数学与AI的关系,早已超越了“密不可分”所能描述的范畴,两者正以惊人的速度融为一体。
回顾过去一年AI在数学竞技场上的成绩单,从DeepMind的AlphaProof在国际奥数赛场斩获银牌,到OpenAI的推理模型一举推翻埃尔德什单位距离猜想这桩八十年悬案,再到GPT-5.6仅用一小时便搞定循环双覆盖猜想,以及Claude Fable 5一夜荡平雅可比猜想。短短两个月内,AI连续创下多项世纪纪录,且攻坚速度呈指数级加快。
在AMS的访谈中,Jacob直言:“数学界存在大量‘自我安慰’的情绪,大家盯着AI现在不如数学家,便推断它永远不如数学家。”他用自己的实践证明,尽管模型的证明过程“不完整、不严谨”,但“通常能给出大致正确的方法,帮你走完八成的路”。
他甚至预判,两年之内,AI在数学证明方面的能力将全面超越人类。
于是问题来了:到了四年后的 2030 年,菲尔兹奖还会有人类得主吗?
菲尔兹奖有着硬性年龄限制,获奖者必须未满 40 岁。这意味着,如果AI在未来四年内系统性超越人类数学家的原创发现能力,评审委员会将面临前所未有的困境:是将奖项颁给做出最好数学工作的人,还是颁给“人类中做出最好数学工作”的人?
更耐人寻味的是数学与AI的双向加速。三维挂谷猜想刚被证明,三个月后GeoLAN便应运而生,纯数学成果直接落地为大模型训练工具。今天菲尔兹奖表彰的André-Oort猜想、希尔伯特第六问题的突破,明天又会演化出怎样的AI能力?
过去常说,数学家在前头拓荒,AI在后面捡宝。但现在,那个负责捡宝的角色,已经开始自己开路了。
参考链接:https://arxiv.org/html/2603.19460v1
上车,雷峰网带你看遍全球 AI 顶会精华
可独家畅览:
专家演讲PPT
大会报告全文
热门论文解读
学术新星访谈
【站点差异】本稿将发布到 kuaiyipress.com。请换一种措辞、句式与段落节奏,避免与发往其他站点的版本雷同;事实与数字仍必须与原文一致。








