脉冲神经网络背景
神经网络进化
到目前为止，神经网络的进化之路，可以化为如下三个阶段：
- 第一代人工智能：感知器，一个简单的神经元只能处理二进制数据。
- 第二代神经网络：通常是全连接的神经网络，它们输入连续的值，然后输出连续的值 ，也就是目前我们一直在使用各种神经网络，BP，CNN，RNN等，本质来讲，这些神经网络都是基于神经脉冲的频率进行编码( rate coded）。
- 第三代神经网络：脉冲神经网络（spiking neural networks），其模拟神经元更加接近实际，把时间信息的影响也考虑其中 。旨在弥合神经科学与机器学习之间的鸿沟，使用接近真实的生物神经模型来进行计算。SNN可以归类为类脑计算，是认为生物智能是人工智能想要达到的目标和方向，标榜自然智进行改进与深化。
理论上我们现在的神经网络已经从连续的输出转变为了二元输出，表面看起来退化了。然而，脉冲训练给了我们更强大的处理 时空数据 的能力，而这些时空数据通常就是我们的真实世界的感官数据。
- 空间：神经元只与其本地的神经元相连接，可以分别处理输入块的输入（类似于CNN使用过滤器一样）
- 时间：脉冲训练是随着时间发生的，因此我们损失了二进制编码，但是获得了脉冲发生时间相关的信息
这使得可以非常自然的处理时间相关的数据而不需要引入RNN而带来复杂性。