神经形态计算 - 脉冲神经网络 (SNNs)

脉冲神经网络 (SNNs) 是一种特殊类型的神经网络，它与生物神经元的工作方式相同，使用离散的、时间相关的脉冲来传输和处理信息。忆阻器作为硬件组件用于 SNNs 的实现，因为它们可以根据脉冲定时和输入信号调整其电阻。在本节中，我们将详细解释 SNN 算法概述，并将其与 ANN 算法进行比较。

SNN 学习机制

SNN 中的学习依赖于脉冲的定时和突触连接的可塑性。一般来说，有两种类型的学习机制

脉冲时间依赖可塑性 (STDP)

脉冲时间依赖可塑性 (STDP) 是一种无监督学习算法，它基于赫布规则，可以概括为“如果两个连接的神经元同时激发，则它们之间突触的权重应该增强”。但是，如果突触前脉冲先于突触后脉冲，则突触的权重会被增强或减弱。

忆阻器是能够模拟这种行为的两端电组件，可以通过根据这些时间规则调整其电阻来实现。了解更多关于忆阻器的信息。

基于脉冲的反向传播

基于脉冲的反向传播是一种用于训练 SNNs 的方法，它通过根据脉冲的定时和发生情况调整突触权重，类似于传统 ANNs 中的反向传播方法。这种方法需要很长的训练时间，因为网络需要频繁地进行前向传递，即使使用并行化，在标准计算机硬件上也需要很长时间。

由于神经元方程不可微分的问题，反向传播不能直接用于 SNNs。因此，需要对导数进行近似才能使反向传播工作。这些近似值可以在脉冲时间、膜电位、ReLU 激活函数甚至 STDP 机制周围进行。

SNN 模型

SNNs 中使用几种神经元模型，包括

• 漏积分发放 (LIF)：这是一种常见的模型，它捕获了神经元的本质动力学。它整合传入的脉冲，并在达到某个阈值时产生输出脉冲，然后是重置周期。
• Izhikevich 模型：一个更符合生物学现实的模型，它结合了简单模型的效率和生物神经元中看到的更复杂脉冲行为的丰富性。
• Hodgkin-Huxley 模型：这是一个详细的模型，它模拟了生物神经元中动作电位产生的离子机制。

BNN 与 ANN 与 SNN

下表显示了人工神经网络与脉冲神经网络和生物神经网络的区别

ANN 到 SNN 的转换

将传统 ANN 转换为 SNN 包括将 ANN 的连续输出转换为 SNN 可以处理的离散脉冲。这可以通过将 ANN 的激活值映射到脉冲速率来实现，这个过程允许转换后的 SNN 保持原始 ANN 的功能，同时受益于脉冲网络的能效和事件驱动特性。