开创者深度解锁“凸优化” 破译AI深度学习的未来密钥｜2023世界顶尖科学家论坛

图说：2023年世界顶尖科学家协会奖“智能科学或数学奖”现场 新民晚报记者 陶磊/摄（下同）

引发这一轮人工智能浪潮的机器学习，背后的关键主角之一，是一种根本算法，它名叫“一阶加速算法”。刚刚揭晓的2023年世界顶尖科学家协会奖“智能科学或数学奖”，正是颁给了引发“一阶算法革命”的两位俄裔数学家——阿尔卡迪·涅米罗夫斯基博士与尤里·涅斯捷罗夫博士，以表彰他们在凸优化理论方面的一系列开创性工作。今天上午，两位数学家亲自登临“世界顶尖科学家协会奖获奖者讲堂：智能科学或数学奖”，热诚地分享了他们在优化理论方面的开创性贡献和对未来的“凸优化打量”。

图说：尤里·涅斯捷罗夫博士

优化，AI的哲学背景

目前，如火如荼的AI领域里，大部分机器学习和深度学习解决的问题，比如回归和分类等都是凸优化问题。在数学优化问题中，如果该问题被证明是一个凸优化问题，那么这个问题就存在最优解决点，就可以用机器学习去“解题”。

优化理论是过去几十年对数学以外的领域产生最重大影响的学科，已在控制系统、经济学、信号处理、机器学习、资源分配、能源管理、供应链和金融等领域得到广泛应用，为这些领域所需的实用算法设计和实际应用等提供了概念基础和原理依据。

“优化，人工智能的哲学背景”，来自比利时法语鲁汶大学的尤里·涅斯捷罗夫教授在演讲中指出，“最优化理论对于我们理解自然、生命和社会的内在原因和力量，是十分必要的。例如，交通网络中的拥堵，社群排序、社会分类等等。它为人工智能提供了模型和方法，可显著提高AI的预测能力。”

尤里·涅斯捷罗夫四十年来一直是凸优化领域的全球领军人物。他的首批重要成果与快速梯度法（FGM）有关，这些成果如今越来越重要，在机器学习和人工智能领域得到越来越多的应用。其后，他与阿尔卡迪·涅米罗夫斯基（Arkadi Nemirovski）教授合作，在凸优化的多项式时间算法的内点法理论方面获得了根本性的突破。

根据这一理论，任何凸优化问题都可以用二阶方法在多项式时间内求解，并为其可行域赋予一个自协调障碍。通过对初始问题的重置，可以得到一个好的自协调障碍。这是结构优化的第一个例子，成功与标准的黑箱优化相媲美。该理论被扩展到二阶锥优化上，以支持最有效的方法来解决线性矩阵不等式，线性矩阵不等式是现代控制理论的主要工具。

近年来，涅斯捷罗夫教授正在研究高阶方法的高效版本。三次正则化牛顿法（New Cubic Regularization of Newton Method）成为第一个可推导复杂度下界，并研究最优的二阶算法。而增强泰勒多项式凸性的重要结果，为发展具有收敛速度更快的高阶张量方法铺平了道路。目前，一些正在实施的三阶方法已成为优化领域最高效的方法。“人类科学旅程中的‘最优化’进程才刚刚开始，希望有一天可以看到‘凸优化博士’。”他说。

图说：阿尔卡迪·涅米罗夫斯基博士

凸优化：寻找方向的那道光

“一个男子不小心丢了钱包，他应该到哪里去寻找呢？有的人只会在丢失的地方寻找，而智慧的人却要借着足够亮的光去寻找。那么足够亮的光在哪里呢？” 今天上午，来自美国佐治亚理工学院的阿尔卡迪·涅米罗夫斯基博士现身世界顶尖科学家协会奖获奖者讲堂，带来了“凸优化专题”里的最前沿研究。他用足够详实的数据和场景应用，解释了凸优化就蕴藏着“这道光”。

40年前，优化理论尚处于一片混沌时，阿尔卡迪·涅米罗夫斯基博士就与同为俄裔数学家的尤里·涅斯捷罗夫一道，共同做出了一项里程碑式的工作——发展内点法理论，提出自协调性，将数百个具有复杂证明和彼此间无关联的复杂算法，描述成一个简单而优雅的统一框架。他们的系列研究工作极具洞察力并富有成效，为解决各类问题提供了一系列基准速率和实现这些速率的优化算法。

“当我们完成凸优化理论的变革时，并没有意识到这项工作会在机器学习和深度学习中产生如此深远的影响。”然而，基础研究对未知也是未来的探求，就是如此迷人。两位科学家所引领的凸优化理论，如今却从根本上推动了新计算平台的发展。

他们的贡献促进了运筹学、图像处理、信号处理、工程和金融等领域的研究。他们的研究影响了计算机、数学、工程和决策科学等多学科的研究进展，受到了美国、中国、法国、德国和英国等国科学家的关注。有学者透露，美国太空探索技术公司（SpaceX）的火箭着陆回收之所以成功率大增，就是因为控制程序中的凸优化算法经过了大量提升。

不过，由于凸优化的研究属于应用数学而非纯数学，这两位数学家注定与菲尔兹奖无缘，诺贝尔奖同样也没有对应的奖项设置。今年两人共同获得顶科协奖，两位数学家最初甚至有些不敢相信，并最终折服于世界顶尖科学家论坛的顶科协奖所秉持的科学愿景和使命，以及为鼓励基础科学而笃定前行的精神。

新民晚报记者 马亚宁