2023年4月6日(周四)20:00,由中国人工智能学会(CAAI)主办、CAAI人工智能基础专委会承办、并行科技协办的系列公益直播讲座AI云播课第四期将在线举办。届时,北京大学王立威教授将围绕“深度学习理论”在线开讲。
直播时间:2023年4月6日(周四)20:00
直播主题:深度学习理论
特邀讲者:王立威,北京大学智能学院教授
王立威,北京大学智能学院教授。长期从事机器学习研究。在机器学习理论算法方面取得一系列成果。在机器学习国际权威期刊会议发表高水平论文200余篇。担任人工智能权威期刊TPAMI编委。多次担任机器学习旗舰会议NeurIPS、ICML、ICLR领域主席。曾入选AI’s 10 to Watch,是该奖项自设立以来首位获此荣誉的亚洲学者。获得ICLR 2023 Outstanding Paper Award。
深度学习在许多应用中取得了巨大成功,但仍缺乏理论上的理解。在这次讲座中,我将介绍我们在深度学习的表示能力、优化和泛化理论方面的最新研究工作。首先,可以证明宽度有限的深度神经网络是通用逼近器。接下来我会讲到深度神经网络的训练。传统的观点认为,训练深层网络是一个高度非凸优化问题。然而根据经验,人们通常可以通过梯度下降法找到全局最小值。我们证明了如果深度网络足够宽,那么从随机初始化开始,梯度下降法可以以线性收敛速度找到全局最优解。最后,我们来探讨一下为什么过参数化的深度神经网络可以具有良好的泛化能力。
(1)证明宽度有限的深度神经网络是通用逼近器
(2)深度神经网络的训练
(3)过参数化的深度神经网络可以具有良好的泛化能力的原因
P.s. :直播间将进行弹幕抽奖,送出精美小礼品,千万别错过哦!
AI云播课是由中国人工智能学会主办、CAAI人工智能基础专委会承办、并行科技协办的系列公益直播讲座,以分享AI前沿学术成果、解读AI热点话题为出发点,以普及AI领域高性能计算应用为落脚点,依托互联网直播平台,面向人工智能领域的研发者、从业者和高校师生,展开场景化AI算力应用分享,孵化AI和高性能计算创新应用人才。
AI云播课于2023年1月正式开播,每月举办一期,每期邀请一位人工智能不同领域的国内外著名专家学者进行一个小时左右的主题报告分享。直播平台为B站【超算云播课】和视频号【并行科技】。
观看往期直播回放:
https://space.bilibili.com/506735836