1.人工智能的第一次春天始于上世纪50年代。在算法方面,感知器数学模型被提出用于模拟人的神经元反应过程,并能够使用梯度下降法从训练样本中自动学习,完成分类任务。另外,由于计算机应用的发展,利用计算机实现逻辑推理的一些尝试取得成功。理论与实践效果带来第一次神经网络的浪潮。然而,感知器模型的缺陷之后被发现,即它本质上只能处理线性分类问题,就连最简单的异或题都无法正确分类。许多应用难题并没有随着时间推移而被解决,神经网络的研究也陷入停滞。
2.人工智能的第二次春天始于上世纪80年代。BP(Back Propagation)算法被提出,用于多层神经网络的参数计算,以解决非线性分类和学习的问题。另外,针对特定领域的专家系统也在商业上获得成功应用,人工智能迎来了又一轮高潮。然而,人工神经网络的设计一直缺少相应的严格的数学理论支持,之后BP算法更被指出存在梯度消失问题,因此无法对前层进行有效的学习。专家系统也暴露出应用领域狭窄、知识获取困难等问题。人工智能的研究进入第二次低谷。
3.人工智能的第三次春天始于2010年代。深度学习的出现引起了广泛的关注,多层神经网络学习过程中的梯度消失问题被有效地抑制,网络的深层结构也能够自动提取并表征复杂的特征,避免传统方法中通过人工提取特征的问题。深度学习被应用到语音识别以及图像识别中,取得了非常好的效果。人工智能在大数据时代进入了第三次发展高潮。