原文:
www.kdnuggets.com/2022/05/machine-learning-like-brain-part-two-perceptrons-neurons.html
虽然今天的人工智能(AI)能够完成一些非凡的任务,但其功能与人脑实现相同任务的方式几乎没有关系。AI——特别是机器学习(ML)——通过分析大量数据集,寻找模式和相关性,而不理解其处理的数据。因此,需要数千个标记样本的 ML 系统与一个可以通过少量未标记数据经验学习的儿童的大脑在本质上是不同的。
为了使今天的人工智能克服这些固有的限制,并进化到下一阶段(人工通用智能),我们应当检查大脑(已经实现了通用智能)与其人工对应物之间的差异。
鉴于此,这个九部分系列将逐步深入探讨生物神经元的能力和局限性,以及这些如何与机器学习(ML)相关联。在第一部分,我们探讨了神经元的慢速如何使得通过数千个训练样本的学习方法显得不切实际。在第二部分,我们将审视感知机的基本算法及其与涉及脉冲的生物神经元模型的不同之处。
大多数机器学习算法所依赖的感知机在本质上与任何生物神经元模型都不同。感知机的值是通过突触传递的信号总和的函数计算得出的,每个突触的值是突触权重和感知机值的乘积。相比之下,生物神经元随着时间的推移累积电荷,直到达到一个阈值,这赋予了它一定的记忆。
同样,虽然感知机有一个模拟值,神经元则简单地发出脉冲。感知机没有内在的记忆,而神经元有。而且,虽然许多人认为感知机的值类似于神经元的脉冲频率,但这种类比是有缺陷的,因为感知机忽略了脉冲的相对时序或传入信号的相位,仅考虑频率。因此,生物神经元可以根据脉冲到达的顺序作出不同的反应,而感知机则不能。
举例来说,具有正权重的突触会对神经元的内部电荷产生贡献,并在累积电荷超过阈值水平(定义为 1)时刺激神经元发放脉冲,而负权重的突触则抑制发放。如果一个神经元由两个权重分别为.5 和-.5 的输入刺激。如果输入序列为.5, -.5, .5, -.5,该神经元将永远不会发放脉冲,因为每个正输入后面都有一个负输入,导致累积电荷归零。如果输入按.5, .5, -.5, -.5 的顺序发放,神经元将在第二个正权重脉冲之后发放脉冲。
展示了一个以.25 权重刺激的神经元如何累积电荷,并在每第四个输入脉冲(来自输入神经元 In)的脉冲后发放。
当 In1 和 In2 分别以.5 和-.5 的权重刺激时,Out 将永远不会发放脉冲。
但改变进入脉冲的时序可以使 Out 发放。感知器模型不支持这个功能,因为它忽略了进入信号的时序/相位。
在这两种情况下,平均输入频率为.5(最大发放率的一半)。感知器模型将给出相同的输出 0,因为加权输入的总和或.5*.5 + .5*-.5 始终等于 0,无论输入的时序如何。这意味着感知器模型无法在生物神经元中可靠实现,反之亦然。
这是神经网络与生物神经元之间如此根本的区别,我将撰写一篇单独的文章来深入探讨它,以及其他生物因素,使得今天的人工智能在一个非常基础的层面上与大脑的功能有所不同。
生物神经元模型允许单个脉冲具有意义。大多数大脑神经元很少发放脉冲,因此许多神经元确实具有特定的意义。例如,由于你理解什么是球,因此你的大脑中可能包含一个“球神经元”(或多个)当你看到球或听到这个词时会发放脉冲。在生物模型中,这个神经元可能在识别到球时只发放一次脉冲。然而,感知器模型的发放率并不允许这种情况,因为单个脉冲的发放率没有定义。
在下一篇文章中,我将讨论大脑中的连接是如何不像机器学习中的有序层次那样组织的,以及这如何需要对基本感知机算法进行一些修改,这可能会导致反向传播完全不起作用。
接下来:基本架构
查尔斯·西蒙 是一位全国知名的企业家和软件开发者,也是 FutureAI 的首席执行官。西蒙是《计算机会叛乱吗?:为人工智能的未来做准备》的作者,也是 Brain Simulator II 的开发者,这是一个 AGI 研究软件平台。欲了解更多信息,请访问这里。