资 源 简 介
神经网络的发展是为了模拟人类神经系统的机器学习任务，通过在学习模型中处理计算单元的方式类似于人类神经元。神经网络的宏伟愿景是通过建造机器来创造人工智能，机器的结构模拟人类神经系统的计算。这显然不是一项简单的任务，因为当今速度最快的计算机的计算能力只是人脑计算能力的一小部分。神经网络是在50年代和60年代计算机出现后不久发展起来的。罗森布拉特的感知器算法被视为神经网络的基本基石，它对人工智能的前景引起了初步的兴奋。然而，在最初的兴奋之后，有一段令人失望的时期，在这个时期，神经网络的数据饥饿和计算密集的特性被视为对其可用性的一种障碍。最终，在本世纪之交，更大的数据可用性和计算能力导致神经网络的成功率不断提高，这一领域在“深度学习”的新标签下得以重生。尽管我们离人工智能（ai）接近人类性能的那一天还很远，但仍有一些特定的领域。菲莎国际学院的领域，如图像识别，自动驾驶汽车和游戏，其中人工智能已经匹配或超过人类的表现。也很难预测人工智能将来会做什么。例如，在20年前，很少有计算机视觉专家会想到，任何自动化系统都能执行直观的任务，比如比人类更准确地对图像进行分类。
从理论上讲，神经网络能够学习任何具有足够训练数据的数学函数，并且一些变量（如递归神经网络）被认为是图灵完备的。图灵完备性是指在给定足够的训练数据的情况下，神经网络可以模拟任何学习算法。关键是，学习简单任务所需的数据量通常非常大，这会导致相应的培训时间增加（如果我们假设一开始有足够的培训数据可用的话）。例如，图像识别的培训时间，对于人类来说，这是一项简单的任务，CA即使是在高性能系统上，也要按周排序。此外，神经网络训练的稳定性还存在一些实际问题，甚至在今天也得到了解决。然而，考虑到计算机的速度预计会随着时间的推移而迅速增长，而且像量子计算这样基本上更强大的范例即将出现，计算问题最终可能不会像想象的那样至关重要。
虽然神经网络的生物学类比是一个令人兴奋的类比，并引起了与科幻小说的比较，但对神经网络的数学理解却是一个更为平凡的类比。神经网络抽象可以看作是一种模块化的学习算法，它基于输入和输出之间依赖关系的计算图上的连续优化。公平地说，这与控制理论中的传统工作没有太大的区别；实际上，控制理论中用于优化的一些方法与神经网络中最基本的算法惊人地相似（并且在历史上先于神经网络）。然而，近年来大量可用的数据加上计算能力的提高，使得这些计算图的体系结构比以前更深入。由此产生的成功改变了人们对深层次
学习。本书各章组织如下：
1。神经网络基础：第一章讨论了神经网络设计的基础。许多传统的机器学习模型可以理解为神经学习的特殊情况。理解传统机器学习与神经网络的关系是理解神经网络的第一步。第章给出了用神经网络模拟各种机器学习模型的方法。
2。这将让分析师了解神经网络是如何推动传统机器学习算法的发展的。2。神经网络基础：尽管第1章和第2章概述了神经网络的培训方法，但第3章和第4章提供了对培训挑战的更详细理解。第5章和第6章介绍了Radialbasis函数（RBF）网络和受限Boltzmann机器。
3。神经网络的高级课题：最近许多深入学习的成功都是各种领域的专门架构的结果，如循环神经网络和卷积神经网络。第7章和第8章讨论了循环和卷积神经网络。第9章和第10章讨论了一些高级主题，如深层强化学习、神经图灵机制和生成对抗网络。
