如何借助数学打造更好的 AI 算法基础并消除大模型幻觉？

7 月 4 日，由斯梅尔数学与计算研究院（Smale Institue of Mathematics & Computation）主办的 2024 年世界人工智能大会（WAIC）“数学与人工智能”学术会议在上海世博中心圆满落幕。

作为全球性高级别学术研讨会，此次会议由华院计算技术（上海）股份有限公司创始人董事长、斯梅尔数学与计算研究院执行院长宣晓华担任主持，美国卡内基梅隆大学计算机科学学院名誉教授、1995 年图灵奖获得者及美国三院院士 Manuel Blum，欧洲人文和自然科学院外籍院士、欧洲科学院院士、上海交通大学自然科学研究院院长、上海交通大学数学科学学院讲席教授金石，欧洲科学院院士、牛津大学应用数学教授 Jose A.Carrillo，牛津大学 DeepMind 人工智能教授 Michael Bronstein，伦敦大学学院人工智能中心主任、英国研究与创新署基础人工智能博士培训中心主任、UiPath 杰出科学家 David Barber，世界科学院院士、阿勒福赞杰出青年科学家国际奖得主、南非布隆方丹自由州大学和台湾中华医科大学教授 Abdon Atangana，南非北方大学应用数学系教授、系主任 Oluwole Daniel Makinde，阿联酋人工智能大学副教授、副系主任 Martin Takac 出席，菲尔兹奖得主、法国高等科学研究所（IHES）终身数学教授 Laurent Lafforgue，澳大利亚国立大学计算机科学研究学院（RSCS）荣誉教授 Marcus Hutter 以及西南财经大学统计学院教授、统计研究中心主任、博士生导师林华珍通过线上方式参与了此次圆桌讨论。上海市经济和信息化委员会主任张英出席会议并致辞。

这些全球顶尖的数学家和科学家们围绕机器学习与人工智能的数学基础、人工智能中的算法研究、AI4Science 以及 AI4Math 等主题进行深入讨论，共同探讨数学与人工智能领域的最新研究成果和未来发展趋势。

会上，94 岁高龄的斯梅尔数学与计算研究院名誉主席斯蒂芬·斯梅尔教授以线上视频的形式发表了他关于“21 世纪的 18 道数学问题”中的“智能的极限”的观点。1998 年，斯梅尔列出了 21 世纪的 18 道数学问题。“斯梅尔问题”，沿袭了 1900 年著名的希尔伯特数学问题的精神。“斯梅尔问题”有一部分就来自希尔伯特数学问题。

会议围绕三大议题进行探讨，在关于“如何借助数学打造更好的人工智能算法基础（特别是深度神经网络和 Transformer 领域），从而提升人工智能算法的效率和鲁棒性、增加因果推理能力和可解释性，消除模型的幻觉现象等？”的议题上，Michael Bronstein 教授发表了深刻见解，他高度肯定了数学家在构筑人工智能算法基础方面的卓越贡献。Bronstein 教授从两个维度进行了详尽剖析：一方面，不论是预测性人工智能还是生成式人工智能，其核心均离不开优化过程，因此数学家的任务就是不断地探索与开发更好的算法，提高算法的效率。另一方面，他强调数学分析对于理解人工智能理论的重要性，特别是生成式人工智能，其执行任务的能力在很大程度上依赖算法的设计，而数学家通过优化算法，不仅提升了预测的准确性，还赋予了 AI 更强的预见性，使其在面对复杂任务时能够做出更为合理的决策。

这一观点得到了在场嘉宾的广泛共鸣，Martin Takac 教授则进一步阐述道：“我们希望可以不断推进、拓宽并深化算法的边界，追求算法更高的效率与效能。”此番讨论奠定了数学研究在人工智能方面的演进中所扮演的重要角色。

随着人工智能的飞速发展，它已广泛渗透至生活的各个角落，虽然为现代人类社会提高了前所未有的效率，带来了诸多的便捷与福祉。然而，人工智能依旧面临着一系列理论和实践上的挑战。因此，会议也以“对于通用人工智能（AGI）、大模型的涌现现象、意识智能等前沿研究领域有哪些好的数学模型？智能的极限又是什么？”为议题，深入剖析现有的数学模型是如何推动人工智能、大模型的发展，以此探讨数学与人工智能之间双向促进、共同发展的互动关系。针对此议题，David Barber 教授深刻地指出数学的纯粹、清晰性和复杂的人类推理、语言、知识以及人工智能之间存在着巨大鸿沟。他强调，利用数学模型来驱动人工智能，促使人工智能更理解人类语言，是一项充满挑战又极具潜力的任务。同时，他也乐观地表示，目前已有的统计学、逻辑推理等已经为人工智能的发展奠定了坚实的基础，相信未来也会有更精准高效的数学模型来协助人工智能的发展。

金石教授则从另一个角度切入，他认为一个理想的数学模型应当是要将领域知识和物理定律完美结合，这样的模型才能更有效地解决复杂的问题。Michael Bronstein 在探讨“智能的极限”时，以富有哲理的比喻阐述了人类对于智能认知的演进过程。他提出现在的人类看到人工智能的进步，如同十年前我们看科幻小说幻想今天一样，虽然今日我们见证了人工智能的显著进步，却仍感觉有些不一样。他强调，人工智能的极限就如同人类不断追求与设定的新目标，是一个动态变化、永无止境的过程。

Marcus Hutter 教授对于人工智能的见解深刻且前瞻，他坚信人工智能的作用不仅仅是预测，而是拥有影响世界的决策能力。因此，他提出通过将最优决策理论与未知世界的预测理论相结合，可以构建在任意未知环境中都能做出最优决策的 AGI 系统，如 ASI（强人工智能）。在过去的几年里，Marcus Hutter 教授已经证实了我们拥有很多优化的概率，他做出了将智力这一非正式概念数学化的努力，提出了一个从 0 到 1 的评分系统来评估 AI 的智能程度。他认为理想的智能测量应能捕捉所有智力的关键特征，包括记忆、概括能力、推理、理解力和创造力等。虽然目前的研究仍处于基础的开发阶段，但他积极利用逼近法来让计划得以继续执行，使其更优化、更完美，以确保每一步都朝着既定目前稳步前进。对于当前的数据模型，Marcus Hutter 教授也持乐观的态度。他表示目前的数据模型虽然尚在发展之中，但未来他会让数据模型更加接近理想的状态。

Abdon Atangana 教授对此表示：我们每天都在创造与发明，然后通过验证我们的成果，来为人工智能注入更多的内容，让它接受更多的培训和进步。诚然，人工智能的出现可能让人类不再需要用自己的大脑进行研究，但是实际上人工智的发展仍然需要靠人类去进行深度参与和补充，尤其是它无法直接向我们验证新定理和新方法论。因此，关于人工智能的未来，我更想看到的是它可以超越现在的界限，可以替代人类验证一些新方向和新主题。

数学作为人工智能的基石之一，其基本理论和应用技术的深入研究是人工智能行稳致远的关键。因此，要想让人工智能在各行各业取得稳健的发展，必须先确保数学基础问题的有效解决。同时，人工智能的飞速发展和广泛引用，也推动了数学领域的研究不断向前，为数学提供了更多的研究视角、方法和挑战，促进了数学理论的创新和突破。既然人工智能的发展离不开数学的支持，那么人工智能是否也能反过来对数学产生促进作用？

“人工智能如何助力数学研究，特别是在定理证明、证明验证以及猜想生成方面？”这是本次会议的最后一个议题。在这个议题上，Jose A.Carrillo 教授以风趣又不失深刻的言辞表达了自己的看法：“对于我个人而言，我并不担心我的工作会被替代。诚然，目前的人工智能虽然在一定程度上可以可以辅助数学家进行错误的检查，避免失误，但是人工智能的发展仍然面临着诸多未解难题，至少我（作为一名数学家）目前这几年仍不会失业。”

世间万物兼具两面性，数学与人工智能相互间的促成关系背后也可能潜藏风险。在现场观众对这一问题感到疑惑时，Manuel Blum 教授以深邃的洞察力提出了独到见解，他指出：“人类总有一天可能都会毁灭，但是人工智能的出现并非这一宿命的必然推手，相反地，人工智能可能是协助人类规避风险的关键钥匙。”Oluwole Daniel Makinde 教授对此表示赞同，他补充道：“我们应当以积极乐观的心态，相信人工智能会给我们带来创新！”

上海市经济和信息化委员会主任张英代表上海市政府到场祝贺并欢迎全球各位数学家来到上海参加 2024 世界人工智能大会及“数学与人工智能”学术会议。张英主任强调，李强总理在 WAIC 会议开幕式讲话指出上海正全力构建一个技术策源、应用示范和制度创新人才集聚的高地。从技术策源的角度来看，数学就是推动技术策源最为核心与关键的力量。她进一步指出，鉴于数学与人工智能之间不可分割的紧密联系，政府高度重视人工智能的应用发展，以及数学和人工智能之间的关系和推动力。这不仅是本次“数学与人工智能”学术会议得以成功举办的重要背景，也是主办方对本次会议寄予厚望的根源所在。

此次在 WAIC 会议主会场举办全球性数学与人工智能会议，充分体现了本次 WAIC 会议的全球性和理论前沿性，也体现了上海致力于打造全球性人工智能基础研究前沿和数学等 AI 算法技术相关基础学科研究高地的期许。

“数学与人工智能”学术会议，作为一次思想的盛宴、智慧的碰撞，见证了数学家们围绕前沿问题展开的激烈讨论与深刻洞见。在这里，思想的火花汇聚成照亮前行道路的明灯，预示着数学理论与人工智能技术的深度融合将开启一个充满无限可能的新纪元。在这个充满无限可能的新时代，我们有理由相信，数学与人工智能将携手并进，共同书写人类科技进步的崭新篇章。