1.1 关键技术:深度学习、机器学习、人工智能
谈到人工智能的时候,有两个概念常常被提及,那就是机器学习(Machine Learning)和深度学习(Deep Learning)。机器学习和深度学习是包含关系,深度学习是帮助人工智能在现阶段发展的关键技术。
机器学习是实现人工智能最基本的方法,是从过往的数据或经验中学习的算法,不依赖于硬件代码和事先定义的规则。传统的计算机程序为解决特定任务而编码,而机器学习使用大量的数据进行训练,可以通过算法从数据中学习如何完成任务。
机器学习主要应用于早期的人工智能领域。传统算法包括决策树学习、推导逻辑规划、聚类、强化学习和贝叶斯网络等。在机器学习发展的早期,受限于计算机计算能力、样本量等因素,算法的局限性大,智能化程度低,无法实际应用。
深度学习是机器学习的一个子集,它的发展是现在人工智能发展的驱动力量之一。深度学习使用的人工神经网络学习算法也是机器学习算法中的一种,只是之前人们对它的关注度不高。深度学习的核心是特征学习,旨在通过分层网络获取分层次的特征信息,从而解决以往需要人工设计特征的重要难题。
杰弗里·辛顿(Geoffrey Hinton)和他的学生鲁斯兰·萨拉赫·胡迪诺夫(Ruslan Salak hutdi nov)在顶尖学术刊物《科学》(Science)上发表了一篇文章,开启了深度学习的新篇章。这篇文章有两个主要观点:第一,多隐层的人工神经网络具有优异的特征学习能力,学习得到的特征对数据有更本质的刻画,从而有利于可视化或分类;第二,深度神经网络在训练上的难度可以通过“逐层初始化”(Layer-wise Pre-training)来有效克服,在这篇文章中,逐层初始化是通过无监督学习实现的。
深度学习的概念源于人工神经网络的研究。神经网络和深度学习两者之间有相同的地方,它们采用了相似的分层结构,而不一样的地方在于深度学习采用了不同的训练机制,具备强大的表达能力。传统神经网络曾经是机器学习领域很火的研究方向,后来由于参数难以调整和训练速度慢等问题淡出了人们的视野。之后,深度神经网络模型成为人工智能领域的重要前沿阵地,深度学习算法模型也经历了一个快速迭代的周期,深度信念网络(Deep Belief Network,DBN)、稀疏编码(Sparse Coding)、结构递归神经网络(Recursive Neural Network,RNN)、卷积神经网络(Convolutional Neural Network,CNN)等各种新的算法模型被不断提出,而其中卷积神经网络更是成为图像识别最炙手可热的算法模型。
近几年来,计算机的计算能力和存储能力都有了很大提高,数据发掘引领了大数据时代的到来。深度学习作为增强机器学习能力的方法被广泛应用,配合大量数据,使原来复杂度很高的算法都能够实现,得到的结果也更为精准。