Ihmehimmeli 项目：脉冲神经网络中的时序编码

神经科学领域的发现持续地启发和帮助我们建立更有效率的人工神经网络，以生物有机体的方式处理信息。最近，这些网络在棋盘和 视频游戏 乃至 视频细粒度理解 等领域均取得巨大的成功。然而，生物大脑中还有一个基本方向人工神经网络尚未充分利用：信息的时序编码。保留时序信息有助于更好地表示动态特征，例如声音，并能够对随时可能发生的事件作出快速反应。此外，尽管生物系统可以由数十亿个神经元所组成，但信息可以由单个神经元所发射的单个信号（“脉冲”）携带，（单个细胞）带有被编码至时序信号中的信息。

• 视频游戏
  https://ai.googleblog.com/2019/06/introducing-google-research-football.html
  

• 视频细粒度理解
  https://ai.googleblog.com/2019/08/video-understanding-using-temporal.html

基于这一生物学见解，Ihmehimmeli 项目运用不同的架构和学习环境来探索 人工脉冲神经网络  (Spiking neural network) 可 以如何利用时序动态。“Ihmehimmeli”是芬兰语中带有玩笑含义的一个词，指的是让人很难搞懂用途或用法的复杂工具或机械。这个词能够很好地体现我们的目标，即，使用含时序编码的信息构造复杂递归神经网络架构。我们使用含时序编码方案的人工脉冲网络。在此网络中，吸引人注意的信息（例如较大的声音或明亮的颜色）会更早地产生神经元脉冲。在信息处理层次结构中，最先出现脉冲的神经元获胜。这样的编码可以自然地实现一种分类方案：输入特征被自然地编码在相应输入神经元的脉冲时序内，而输出则由最早出现脉冲的输出神经元进行编码。

• 人工脉冲神经网络
  https://en.wikipedia.org/wiki/Spiking_neural_network

手捧 Himmeli  的 Ihmehimmeli 项目团队，这个符号代表他们的目标是打造含信息时序编码的递归神经网络架构

我们最近 发布 并 公开 了一个模型的源代码，在这个模型中，我们展示了使用时序编码的全连接脉冲网络的计算能力。我们的模型所使 用的突触传递函数 (synaptic transfer function) 借鉴自一种生物模型。即 ，作为对传入信号的反应，神经元细胞膜上的电势会急剧上升并在随后减弱，随之出现神经脉冲（也被称为“神经冲动”）。

• Himmeli
  https://finland.fi/christmas/the-original-finnish-christmas-ornament/
  

• 模型开源 https://github.com/google/ihmehimmeli

神经元细胞膜上的电势急剧上升随后下降 来源：维基百科

关联信号变化的强度由代表突触效率的连接 权重 控制。关键在于，这个公式可以精确获得突触后脉冲时间关于突触前脉冲时间和权重的导数。训练该网络的过程包括调整神经元之间的权重，进而调整整个网络中的脉冲时间。就像传统的人工神经网络一样，通过反向传播来实现。我们采用同步脉冲，其时序也是通过反向传播来学习，以便为网络提供时序参考。

我们把特征编码到时序之后对该模型进行基于传统基准的训练。结果表明，脉冲网络已成功学会解决 噪声布尔逻辑问题 (noisy Boolean logic problems)，并在 MNIST 上实现 97.96% 的准确度，这一结果可与相同架构的传统全连接网络相媲美。然而，有别于传统网络，我们的脉冲网络所用的编码在生物学上更为合理，能够更高效计算，且准确度仅有小幅下降。这点将在下文详述。

• MNIST

  http://yann.lecun.com/exdb/mnist/

在 MNIST 上训练脉冲网络时，我们观察到神经网络在两种工作状态之间自发地切换。在训练早期，该网络表现出一种缓慢而高度准确的状态，在神经网络做出决策时，几乎所有神经元都触发过。而到了训练后期，该网络自发地切换到高速但准确度略有降低的状态。这种行为十分有趣，因为我们并没有特意地进行如此优化。因此，某种意义上可以认为脉冲网络既可以“深思熟虑”，也可以“当机立断”。正如人类在决策速度与准确度之间的权衡。