欢迎光临中国图象图形学学会官方网站,让我们一起努力,探索图象图形领域的广袤天地!
首页 > 学会动态 > 学会新闻

CSIG-机器学习中的加速一阶优化算法系列讲座第二讲圆满结束

2022-06-27

       优化算法是机器学习的重要组成部分,但是传统的优化算法并不完全适用于机器学习,因为通常来说机器学习模型的参数维度很高或涉及的样本数巨大,这使得一阶优化算法在机器学习中占据主流地位。
       为了在应用中推广加速一阶优化算法,中国图象图形学学会与浙江师范大学数理医学院、浙江师范大学数学与计算机科学学院、西安科技大学数学与统计学院共同主办了“CSIG-机器学习中的加速一阶优化算法系列讲座”,由中国图象图形学学会机器视觉专委会承办,主讲专家为中国图象图形学学会机器视觉专委会主任林宙辰教授。本次系列讲座分为六讲,从2022年6月17日起,每周五晚8-9点举行。
       在6月17日第一次讲座取得巨大成功后。6月24日晚上8点,林宙辰教授在线上做了本次系列讲座的第二讲:无约束凸优化中的加速算法,针对Nesterov加速算法理论进行了提纲挈领地讲解。本次讲座十分受关注,讲座直播由腾讯会议和第三方蔻享直播同时进行。


image003.png


       林宙辰教授首先介绍了凸优化一阶加速算法理论中对于光滑无约束凸函数的经典Nesterov加速算法,并总结了李普希兹光滑和强凸条件两种情况下的算法收敛性。

image005.png


       林宙辰教授接下来详细讲解了Nesterov算法加速收敛的证明,并对证明中的关键性步骤进行了推导和演示。

image007.png


       林宙辰教授进一步讲解了针对凸的复合函数的三种Nesterov加速算法,以及复合函数涉及非光滑函数的处理和分析,着重介绍了三种加速算法背后的设计思想以及算法收敛性证明中的关键步骤和引理。


image009.png      

       林宙辰教授还介绍了一阶加速算法中关于非光滑函数的光滑化的思路及其在加速算法理论中的作用。


image011.png


       最后,林宙辰教授介绍了从变分法角度对一阶加速算法的理论解释,这种变分理论从理论力学中拉格朗日变分分析的角度对算法加速进行了剖析,构思巧妙,十分具有启发性。


image013.png


       演讲结束后,参加线上讲座的同学和老师踊跃提问,林宙辰教授耐心回答了的每个问题。整个讲座生动有趣,内容丰富,原定一个小时的讲座时间又延长到一个半小时。


640.png
林宙辰教授专著《机器学习中的加速一阶优化算法》的英文版和中文版,以及刚出版的关于ADMM的新书


本系列讲座线上直播信息为:
腾讯会议:
https://meeting.tencent.com/dm/0hyM7yHN76Bv
会议ID:721-6788-2449
蔻享同步直播:
https://www.koushare.com/lives/room/095757
下一次讲座时间为7月1日晚20:00-21:00,敬请期待!