1.2.2　神经网络计算

人工神经网络是一种新型的非算法信息处理方法，是在受到生物神经系统的启发下被提出的。大脑的某些机制与机理被模拟，神经元的基本功能作为起点，遵照由简单到复杂的规则逐步组成网络。新的网络模拟生物的神经系统与真实世界中的物体彼此交换信息，并做出相应的交互反应。

1943年，神经元二元阈值单元（binary threshold unit）被心理学家McCulloch、数学家Pitts提出，称为著名的M-P模型。神经细胞的工作状态是兴奋的或者是抑制的，是该模型的基本思想。McCulloch和Pitts基于这个思想，将硬极限函数引入神经元模型中。其中，M-P模型作为一种静态的模型，具有结构固定、权值无法调节的缺点，并且缺乏学习能力。针对所呈现的这一问题，1949年，著名的Hebb学习规则被神经生物学家D.Hebb提出，当两个神经元由于其本身同时兴奋或同时抑制时，决定其连接强度是否增加。1958年，感知器（perceptron）的概念被F.Rosenblatt提出，其基本思想是感知器是由阈值神经元组成，用来模拟生物的感知及学习能力。D.E.Rumelhart和J.L.Mccelland等在1986年提出了BP学习算法，其基本原理是基于前向反馈神经网络，是目前使用最广泛的学习方法之一。神经网络算法在20世纪80年代中期得到了广泛的关注和飞速的发展。

神经网络计算目前已成为一门日趋成熟的学科，在绝大部分工程应用领域都有应用。神经网络计算的研究方向主要集中在：神经网络集成、混合学习方法、神经网络计算的理论基础、脉冲神经网络（spiking neural networks）、模糊神经网络、循环神经网络（recurrent neural networks）、神经网络与遗传算法及人工生命的结合、容错神经网络研究、神经网络的并行及硬件实现。