选自 ICML2016

机器之心编译

参与:杜夏德、盛威

下面是 ICML 2016 所有教学讲座(Tutorial)的 PPT 合集。包括:深度强化学习;用于语言理解的记忆网络;深度残差网络:深度学习越来越深;非凸优化的最新进展;大规模机器学习的随机梯度方法;凸优化,学习的博弈方法;严格的数据挖掘:理论和自适应数据分析工具;图表描画、流和空间优化;观察性研究的因果推论,共 9个主题的教学讲座。我们对每一个教学讲座都进行了简要介绍,并贴出了每个教学讲座 PPT 中的部分内容。完整的 PPT 请在阅读原文中下载。

深度强化学习

David Silver (Google Deepmind)

人工智能的一个主要目标是创造通用的代理,它能有效的执行广泛的挑战性任务。达到这个目标要结合强化学习代理和有力灵活的表征。深度强化学习的核心思想是使用神经网络提供这种表征能力。这个教程展示了深度神经网络中的一组算法,这些深度神经网络是用在价值函数,策略和环境模型中的。最优结果会出现在多个领域,包括 Atari games,3D 导航任务 ,连续控制领域(continuous control domains )和 Go 博弈中。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

深度强化学习:人工智能 = 强化学习 + 深度学习

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

DeepMind 中的深度强化学习案例

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

一个强化学习代理可能包括一个或多个主成分

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

结论

用于语言理解的记忆网络

Jason Weston (Facebook)

最近结合推理、注意和记忆来解决任务的兴趣开始复苏了,特别是在语言理解领域。这张 PPT 回顾了这方面最近的研究,也包括作者团队的工作成果,一个已经应用到问题回答、语言建模与通用对话框的记忆网络架构。当努力走向真正的语言理解的目标时,还将讨论最近的数据集和测试,以评估这些模型的能力,看看已经走了多远。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

端到端的对话代理能做什么?

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

最近发表的一些与记忆网络相关的文章

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

已经发表的相关的记忆模型

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

使用推理、注意和记忆来学习基本算法的一些研究

深度残差网络:深度学习越来越深

Kaiming He(Facebook)

深度神经网络训练起来更难。超过一定深度之后,传统的更深层次的网络开始出现优化问题带来的严重欠拟合。本教学讲座描述了最近开发的剩余学习框架,这个框架简化了网络的训练,比之前使用的框架更深。这些剩余网络更容易收敛,并且能从大大增加的深度中增加精度。在 ImageNet 数据集中,我们用高达152 layers-8x,比 VGG更深但仍具有低复杂度的深度评估了残差网络。

这个教学讲座将进一步考察残差网络的传播公式。我们最近的工作揭示了当残差网络有身份映射(identity mapping)作为跳跃连接(skip connections)和块间激活(inter-block activation)时,,前进和后退信号可以直接从一个块传播到任何其他块,这带来了一个有希望的结果,1001 层的剩余网络。结果显示挖掘网络深度维度还有很大的空间,这是现代深度学习成功的关键。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

深度残差网络的简要介绍

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

传统图像识别中的能达到的深度

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

深度谱

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

学习更好的网络是不是就像叠加更多层一样简单

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

浅层模型与对应的深度模型

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

深度学习模型中的问题

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

深度残差网络如何解决这些问题

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

深度残差网络潜在的应用

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

总结

非凸优化的最新进展

Anima Anandkumar(加州大学欧文分校)

大多数机器学习任务需要解决非凸优化问题。非凸问题中的临界点个数随着数据维度呈指数增长。如梯度下降这样的局部搜索方法会被困在某一个临界点上,因此,寻找全局最优解计算起来很难。尽管有这些硬障碍,在保证非凸优化的问题上还是有很多进展。这个问题的焦点已转移到在有效地找到全局解之下,将透明条件特征化。在许多案例中,这些条件变得温和自然,能够应用于机器学习。这个教学讲座概述了最近非凸优化在理论上的成功故事,包括学习潜变量模型,字典学习,强大的主成分分析,等等。简单的迭代方法,如谱法,交替投影等,被证明可以用来学习一致的模型的多项式样本和计算复杂度。这个教学讲座提出主要成分来建立这些结果。结论中给出了开放新的挑战和解决他们的可能路径。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

机器学习核心中的优化

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

高维中的非凸优化

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

结论

大规模机器学习的随机梯度方法

Leon Bottou(Facebook 人工智能研究中心),Frank E. Curtis(里海大学),Jorge Nocedal(西北大学)

这个教学讲座介绍了随机梯度方法的数学性质及其对大规模机器学习的影响。回顾了大规模机器学习的两个典型实例中求解优化问题的计算需求,即,稀疏线性分类器和深度神经网络的训练后,展示了简单但功能多样的随机梯度算法理论,解释其理论和实践行为,并公开设计改进算法的机会,这个教学讲座还提供了先进算法的具体例子来说明改进随机梯度方法的两个基本方向,即管理噪声和管理二阶信息。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

教学讲座所解决的问题

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

教学讲座的主要内容

凸优化,学习的博弈方法

Elad Hazan(普林斯顿大学),Satyen Kale(雅虎研究院)

最近几年,凸优化和遗憾最小化的概念已经被结合起来,并且在一个叫做在线凸优化的总体框架中被应用到机器学习中。我们将会研究这个框架的基本原理、它的应用、主要算法技术和未来的研究方向。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

教学讲座相关议题

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

算法

严格的数据挖掘:理论和自适应数据分析工具

作者:Moritz Hardt(谷歌),Aaron Roth(宾夕法尼亚大学)

可靠的推理工具和模型选择对于机器学习和统计学来说是至关重要的。现有的大多数理论在目前数据分析师必须与数据交互以及自适应选择使用哪一种方法来多次探索相同数据的情况下都失效了。我们通过机器学习的视角为基准列举了这个问题,而这些问题目前全部依赖于标准层方法。理解了为什么以及在何种情况下标准层方法会失效后,我们将会看到标准层方法的可行的替代方案,这种方法可以多次使用并保证不失去数据的新鲜性。然后我们就可以吧这个方法应用到关于差异隐私、压缩方案和假设检验的新兴理论中了。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

图表描画、流和空间优化

Sudipto Guha(宾夕法尼亚大学),Andrew Mcgregor(马萨诸塞大学阿默斯特分校)

图表是最常用的数据表达工具之一,但现在的算法方法并不适合表达动态、随机或者是单一机器图表。我们经常会遇到这些图表,特别是机器学习技术被部署用来管理图表数据和大规模图表优化问题的时候。图表描画是一种基于使用随机线性预测和利用线性代数的组合的降维图表数据。这项技术已经在过去五年里被广泛应用在计算设置中。这项技术很容易达到平衡,可以很自然地应用于各种分布式设置。他也可以用户在凸优化的背景下实现更高效的算法组合优化问题,例如关联聚类。我们的研究目标之一是理解和描述那些可以推断差相关图形的压缩代表的图表结构和特征的类型。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

教学讲座概览

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

观察性研究的因果推论

David Sontag,Uri Shalit(纽约大学)

在医疗、教育和经济、政治决策等很多领域有越来越多的海量数据供人们使用。通过数据作出政策决定通常会让普通问题得到创新性的解决:药物 X 是否会导致低血糖,将其与药物 Y 作对比?较长的产假是否会导致孩子社交和认知能力的增强?这些问题每天都在实际发生,很多领域的科学家们也都在研究。

这个教学讲座的目标是让机器学习的实践者更接近那些在实践中进行研究的统计学家、流行病学家和经济学家。我们认为,机器学习对于帮助解决这些问题有很大的贡献,特别是考虑到海量可用数据的不断增长和它的复杂性。我们也相信,考虑到这对社会的巨大影响,机器学习研究社区可以且应该对这些问题感兴趣。

希望本教学讲座的参与者:a)学习因果推论的基本语法及其现在的两个主要范例:潜在的成果框架和因果图;b)理解机器学习实践者通常面对的问题和因果推论问题之间的相同点和差异;c)熟悉实践科学家进行因果推论所使用的基本工具;d)了解机器学习技术在因果推论领域被应用的最新研究消息。

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

机器学习的发展方向

©本文由机器之心编译,转载请联系本公众号获得授权

✄————————————————

加入机器之心(全职记者/实习生):hr@almosthuman.cn

投稿或寻求报道:editor@almosthuman.cn

广告&商务合作:bd@almosthuman.cn

点击「阅读原文」,下载 PPT↓↓↓


王夫子部分资料来自互联网和网友上传,版权属原作者.:王夫子 » PPT制作教程 学界|ICML 2016 教学讲座全集:深度强化学习、深度残差网络、非凸优化等九大主题(附PPT)

赞 (0) 试读

点评 0