2018116日,佐治亚理工学院机器学习中心副主任宋乐到访自动化所,并作了题为Enhancing Deep Learning with Structures的精彩学术报告。

  深度学习作为近年来最炙手可热的研究方向吸引了来自学术界、工业界、资本市场乃至政府的广泛关注,但在表面的成功和繁荣之下,深度学习仍然有很多关键问题亟待解决,例如:深度学习对大数据和大运算量的过分依赖,模型的不可解释性等等。

  报告向大家展示了利用问题的内在结构对提高机器学习方法性能、降低样本复杂度和计算复杂度的重要意义。宋乐首先通过大量理论和实验向大家展示了CNN通过卷积结构成功利用了图像问题中的平移不变性,用(相比全连接层而言)少量的参数取得了非常高的识别精度。接着他展示了佐治亚理工学院的最新工作Deep Hyperspherical Learning,即通过改进卷积操作达到更快的收敛速度和更高分类精度。在他的另一个工作struct2vec中,宋乐介绍了如何让深度神经网络利用图的结构信息,从而将神经网络应用到社交网络、生物医学、推荐系统等应用问题中。

    

  报告人简介:宋乐是佐治亚理工学院计算科学与工程系终身副教授,机器学习中心副主任。他于2008年在Alex Smola的指导下从悉尼大学和NICTA获得机器学习博士学位。2008年至2011年间,在卡内基梅隆大学机器学习系Eric XingCarlos Guestrin的指导下进行了博士后研究。在2011年加入佐治亚理工学院之前,他曾是一名Google的科学家效力于Fernando Pereira 的机器学习部门。他的主要研究方向是核函数和深度学习的嵌入方法,机器学习的大规模算法和高效系统, 以及静态和动态网络分析,人工智能,社会科学,计算生物学等跨学科领域里的大规模复杂问题的建模和求解。他获得过很多机器学习方面的顶级国际奖项,包括NIPS’17机器学习与材料科学研讨会最佳论文奖,Recsys'16深度学习与推荐系统研讨会最佳论文奖,AISTATS'16最佳学生论文奖,IPDPS'15最佳论文奖,美国国家自然基金会NSF’14杰出青年奖,NIPS'13优秀论文奖和ICML'10最佳论文奖。历任ICMLNIPSAISTATSAAAIIJCAI等机器学习和AI顶尖会议的领域主席,也是机器学习顶尖杂志JMLRIEEE TPAMI的副主编。 

附件: