5月14日至16日,由国家自然科学基金会委员会数学天元基金举办的“机器学习与数学优化”高级研讨班在钉钉直播平台成功开展,实验室研究生一年级同学郭婉婉、赵孟凯、张维权、张晋源、张斌全、张瑞、郭彦亨、薛钊煜8名同学共同参与会议听讲。
课程由西安交通大学的孟德宇教授,中国科学院大学的韩丛英教授,中国科学院数学与系统科学研究院的刘歆研究员讲解。其中孟德宇教授做了题为“元学习的思想方法概述”的主题讲解,从机器学习引入,介绍了机器学习的基本框架,并从现代机器学习所遭遇的瓶颈问题引出元思想,提出机器学习的两个函数以及元学习的主要框架。然后又比较了机器学习与元学习的本质差别,并从基本方法论、基本思想和基于元学习的机器学习自动化算法三个方面进行了详细的介绍。
韩丛英教授通过深度学习求解组合优化问题,对有指向型网络监督学习的求解算法,强化学习与神经网络结合的求解算法(Active Search算法,Actor-Critic算法,贪婪算法,q-learning算法),以及深度学习的循环神经网络和双向神经网络(前,后向传播过程,长短期记忆模型,注意力机制)进行了详细的讲述,并探讨了AlphaGo和AlphaGo Zero对组合优化问题提求解的启发式意义。
刘歆研究员从并行计算的优势入手,详细讲述了共用储存器和分布式储存器的区别,同步和异步等基本概念,介绍了奇异值/奇异值分解的并行化方法和并行子空间纠正方法,最后探讨了最后探讨了PCA和分布优化的结合,提出了D-PCA的算法。
