以Rumelhard、McCelland为代表的一些科学家，1986年研究出了BP（BackPropagation）神经网络模型，多层网络学习算法，是一种误差逆传播训练算法的多层前馈网络模型。神经网络模型在数据压缩、函数逼近和分类识别等领域的研究中应用比较广泛。

BP神经网络模型由信息的正向和误差的反向两个传播过程组成，并按照误差反向传播的运算规律完成学习的过程。样本的数据信息由输入层中的各个神经元负责接收输入，然后传递到中间隐含层的每个神经元；中间层的功能是处理内部信息，完成信息的变换工作，中间层部分包括单隐层或多隐层两种结构，可以根据信息处理过程中的需求而进行具体设计；隐含层最后把数据信息传递到输出层的各个神经元，经输出层神经元的处理之后，一次正向传播的学习处理过程就完成了，输出层的神经元负责把信息处理的结果输出。当实际输出值和期望输出值之间存在误差的时候，网络就会把这个误差送入反向传播进行调节。误差的反向传播开始于网络的输出层，与第一阶段相反，经过隐含层，向着输入层依次传递。这一过程是对各层之间权值进行调整的过程，表现为以梯度下降算法的方式完成各权值的修正。信息正向与误差反向这两个传递是反复不断地进行的，也是神经网络学习训练过程的特点所在。在此过程中各层之间的权值不断地调整，当网络输出的误差到可以达到训练效果的要求，或者已经达到预先设定的学习最大次数，网络的训练学习就会停止。结构模型如图5.3

该网络模型不仅可以实现学习功能，还能够对大量的输出—输入映射的关系模式完成存储，并且不用给出相关的代数方程就可以建立映射关系。该网络以反向传播的方式来实现对网络中的权值和阈值的调整，在神经元的学习过程中，把最速下降法作为计算法则，以网络中的误差平方和最小为最终目标。神经网络模型的拓扑结构包括三部分：输入层（input）、隐层(hide layer)及输出层(output layer)

。网络模型如下图所示：

BP神经网络模型有很多种，比如输入输出模型、误差计算模型、作用函数模型和自学习模型等都是网络的基本模型。神经网络可以用来完成分类、聚类与预测等功能。神经网络需要建立一定量的历史数据的基础之上，网络通过对大量历史数据的反复训练，可以学习到包含在数据中的相关知识。在具体问题中，首要的是先提取到这些问题的表征信息，以及与这些信息所相应的评价数据，以这些数据为基础来对神经网络进行训练。BP神经网络模型虽然有十分的广泛的应用，但是该网络模型在研究中仍存在着各种缺陷和不足之处，具体在以下几个方面表现比较明显：