共计 885 个字符，预计需要花费 3 分钟才能阅读完成。
近年来，人工智能在数学领域的探索引起了广泛关注。无论是顶尖学者的推崇还是研究成果的频繁亮相，都彰显了这一交叉学科的潜力。
这项研究系统梳理了过去十年间深度学习在数学推理上的发展历程，涵盖了任务类型、数据集构建、模型架构以及现存挑战。此外，研究团队还精心整理了一份资源丰富的阅读清单，方便感兴趣的读者深入探究。
数学推理的关键任务
数学推理任务大致可分为以下几类：
首先是数学应用题（MWP），这类问题需要系统理解自然语言并结合数学运算得出答案。MathQA 等数据集提供了详细的方程注释，帮助提升模型性能与透明度。
其次是定理证明（TP），即通过逻辑推导验证数学命题的真实性。目前，语言模型在交互式定理证明器中的应用日益增多，相关数据集如 CoqGym、Isabelle 等不断涌现。
第三类是几何问题解决（GPS），它结合了图形与文本信息，要求模型具备多模态处理能力。Geometry3K 等数据集为研究提供了新的可能性。
此外，还有数学问答（MathQA）等任务，其中 MATH 数据集因其高难度备受关注。
主流深度神经网络模型
在数学推理任务中，Seq2Seq 模型凭借编码器 - 解码器框架占据主导地位。同时，基于图的网络（如 Sequence-to-tree）能够有效捕捉数学表达式的结构信息。
基于注意力机制的网络同样表现出色，它能动态聚焦于关键信息。例如，MATH-EN 模型在数学应用题上的表现尤为突出。
大语言模型虽具备广泛适用性，但在数学推理上的表现仍面临诸多挑战，包括数据量不足、微调成本高等问题。
现有数据集的局限性
尽管已有不少数据集问世，但仍存在一些不足之处，比如对低资源环境的支持不够充分、数字表示方式不统一等。
未来研究方向
针对上述问题，研究团队提出了多个未来方向，包括增强模型的泛化能力和鲁棒性、实现可信推理、利用反馈优化模型以及推进多模态数学推理技术。
阅读清单推荐
为助力学术交流，研究团队将整理好的阅读清单上传至 GitHub，内容涵盖数学推理、AI 基础理论等多个方面。
本研究由多位知名高校的研究人员共同完成，第一作者 Pan Lu 现就读于 UCLA，师从 KaiWei Chang 和朱松纯教授。
