报告题目:Optimization, Speed-up, and Out-of-distribution Prediction in Deep Learning
主 讲 人:陈薇 研究员
单 位:中国科鱼虾蟹游戏
时 间:11月10日10:00
腾 讯 ID:260-220-168
摘 要:In this talk, I will introduce our investigations on how to make deep learning easier to optimize, faster to train, and more robust to out-of-distribution prediction. To be specific, we design a group-invariant optimization framework for ReLU neural networks, we compensate the gradient delay in asynchronized distributed training; and we improve the out-of-distribution prediction by incorporating “causal” invariance.
简 介:陈薇,中科院计算所研究员,博士生导师,中国科学技术大学兼职博导。曾任微软亚洲研究院Principle Researcher,计算学习理论组负责人,获微软亚洲研究院技术突破奖,登2021年福布斯中国科技女性榜、2021年《财富》中国最具影响力的商界女性未来榜等。长期从事机器学习方面的科研工作,研究兴趣包括机器学习基础理论和方法、可信机器学习,以及分布式机器学习等。在机器学习顶级国际会议/期刊(如ICML, NeurIPS, ICLR等)发表学术论文50余篇,合作出版学术专著1本,担任ICML, NeurIPS等国际会议的领域主席或高级程序委员。