深度学习的未来
深度学习会成为实现人工智能的最佳途径吗?它的未来又在哪里?
人工智能、区块链和量子计算是当下三个最有潜力的技术。
总结
更深的网络、更有效的结构、更少的数据、更先进的理论、更加模块化。
深度学习模型为什么可以这么深?
- 有很多的数据,数据越多越具有普适性。
- 有强大的计算设备,能够用很多的数据对模型进行训练。
- 有很多有效的训练技巧,有大量的训练这种复杂模型的算法和技巧。
深度学习模型为什么能够成功?
- 模型复杂度高:模型容量大,能够处理复杂的任务。
- 逐层的学习、处理:逐层往上的时候,网络不断地对对象进行抽象。扁平的结构不能有效地进行逐层的学习。
- 内部的特征变换(非线性):中间层对特征进行变换。决策树也是逐层学习的,但是复杂度不够,内部没有进行特征变换,始终在一个特征空间里学习。
深度学习模型成功的三个因素
- 容易过拟合:需要用大量的数据
- 很难训练:需要很多有效的训练技巧
- 计算开销大:需要强有力的计算设备
更先进的理论
人工智能的模型或者人工智能的解决方案需要能够对结果进行解释。
比如在医疗中,不但要告诉医生怎么做,还要告诉他为什么这么做。
更先进的优化方法、更先进的训练方法、更有效的网络结构
需要构建更多的可以重复使用的基础人工智能模型
这是经过数据训练的,能够独立完成一些基本功能的模型,可以用来构建更复杂的人工智能模型,再往上一步构建行业的应用。
更深度的模型、跨数据集的训练
未来的一个趋势是结构将会变得愈发巨大和复杂,正在向着大型神经网络系统的方向发展。
提前针对网络的某个部分在不同的数据库中展开训练,添加新模块,组合调整整体架构等等。
例如卷积神经网络曾经是最大最深的神经网络中的一个,但是今天则是最新的架构中的一个模块而已。许多结构会趋向于变成下一代结构中的一部分。
行业相关的数据不多或者没有充足的标签,因此如何能够很好地从小数据中进行学习变得非常重要。
更少的训练数据、无监督深度学习
如何从小样本、弱标识的数据中进行学习是现在遇到的问题。
大多数数据都是未标记的,而且我们自己的大脑皮层就是一个很好的非监督式学习的区域。
未来的研究趋势将会把更多的注意力几种到无监督训练或者半监督训练算法上。
更准确、更有用的语音和视觉识别系统
视频方面
接下来将会拥有总结视频片段内容并且可以生成短视频的神经网络。
神经网络已经是视频任务的标准解决方案,也应该成为自然语言处理和机器人任务的标准解决方案。
领域结合
可以这样讲,人工智能改变世界,从改变每个行业开始。
人工智能还是比较专用或者比较狭窄的额,解决的问题都是单一领域的单一问题。如今正在迈入一个比较宽泛的人工智能时代:人工智能技术开始解决一个领域或者跨领域的多个问题。
很多领域都有许多关于分析和预测的任务,人工智能将会是数据和更优分析或预测之间的桥梁。很明显,深度学习在这个过程中扮演非常重要的角色。
我们将会看到越来越多的混合系统,其中深度学习可用于处理一些棘手的问题,而其他的人工智能和机器学习技术可用于解决问题的其他部分,例如推理等。
构建全新的计算能力
- 量子计算机
- 类脑计算
- 微型计算机
- 云计算
- 终端计算