变们可以通策策略。因此，我对于一个给定的和阈感知器来这个策略。定的，说，它的权重代表一种决过调整权重和阈值来改值也是给

，一般关于阈值thres为偏置（点是，为了：b=-thresh达hold，b;ias）。它的相反数来用更方便表表达这里需要指出old，的一这里的b被称

ჺ>0+w3x3outpu输出输出tput=0。，则这样，前面计算的规则就修改为：如t=1，否则输出o..+b果w1x1+w2x2u

-2，则b=3。而权重w1=w2=

;)1ᬐ=−1，小于0。而其x1=x2=1的时候，output=0很明ut=1。，因为(−2)1outp;+;(−2显，只有当它输入的情况下，都是

情所以在实际况下，这其实是一个“与非门”！

。这被称为与非过组合的方式表达任算机科学中，部件中比较特何其它的门部件与非门ality)。殊的一个，它�可以通门的普适性(g在计niversa是所有门

既然感知数，来表达一个与非门当的权重和偏理论件。上它也就能表达任意其它的门部，那么置参器能够通过设置恰

因此也能够像前面三，感知器彼此连接从而组成一个计算机系统。体中的例子一样，通过

已。机了，这只不我得惊喜的但这似乎没有什么们值已经有现成的计算，过是让事情复杂化了而

事情很有限。单个感知器能做的连接起来。要做复杂的决策，所以则要将多个感知器是需

。而实完成不了了数十万个参数，如际中的网络可能会果手工一个一个地去配置这些参数，有上万个，甚至恐怕这项任务永远也

网络最有特色的地方而神经就在于这里。

，让我们不是为网络指定网所有参数，而是提供。找到最恰当的值习，在学习过程中为所训练数据络自己在训练中去学有参数

训练数据，ainingexa称为训练样本（tr么，这样的每一份我们期输入是某个值的时候望的输出是什）。，思路是mple大体的运转这样：我们告诉网络当

于老师在教学生某个程相当这个过抽象的知识的时候，举一个具体例子：

，就一般来说立。象的知识。这在神经网络的，我们举的例子越多越能表达那个抽训练中同样成

识。的知灌入成千上万个训练样本，然后网络就自动从这些样本中总结出那份隐藏在背后的抽象我们可以向网络

于网络取值。的所有权重和偏置参数这的份知识的体现，就在

，它会根据当前参数值计算出唯一的一个参数有始值，当我们输实际输出值。入一个训练样本的时候假一个初设各个

出值尽量接近。下，这时候值和期望输这个值可能跟值，让实际输出试着调整某些参数的一样。想象一我们期望的输出值不，我们可以

毕之后，网络参佳值，这时每一次的练过程数也调整到了最就结束了。出值输已经无限接近，入完这样训当所有的训练样本实际输出值和期望输

也给它输入一个一个神经网络工作的原正确（或接近正确假设在训练过程中，网络已万个样本能够）的反应了，那么再给出经对数应该有很大概率给出我们预期理。的决策。这就是它没见过的数据，它

异的时候，要如当实何去调际输出值和期望输出值产生差整各个参数呢？但这里还有一个问题，在训练过程中，

之：通过调整参当然，在思考做前，也应该先弄清楚得通吗？数的方式获得期望的输出，这怎么个方法行

实际上，对于感知器网络来说，这个方法基本不可行。

如在上图有39个持输入不变，我们改变最终的输出器网络中，如果维基本完全不可预测。某个参数的感知参数的值，那么比

关键在于：输入和输（或从1;变到可能维持不变。这个或者1。都是二进制0），当然也是0它或者从0变到1;问题的的，只能出

不是连续的。），那么这个函数（如果把整函数有输入，有输出个网络看成一个

一个输入和输出能够在sigmoid神经元因此，成为实数上保持连续的神经网络。于是，这就，。我们需要为了让训练出现了可能

。它与感知器络经常使用的基两个重的结构类要的区别。似，但有当然不是唯一的结构）元(sigmoidnn)是现代神经网euro本结构（sigmoid神经

可以是0和1，而，它的输入不再限制为第任意0~1之间的实数。一

的计算作为输出。不再限制为0和1，，参数经过一个称为sigmoid函数而是将各个输入的加权求和再加上偏置第二，它的输出也

ꡯ那么输出output具体来说，假设z=w1x1=㰰)。)=1/(1+e-z3x3+...+b，2x2+w(z)，其中：㰰(z;

持在0~1之间。而且，它的输出也是0层神经元的输入，保数，这个输连续的函数。𗡔z)是一个平滑、出值可以直接作为下一~1之间的实

之后，网络的它的对某个使得逐步调整参数值参数的以想象，在采用si值进行微小是说，当我们这样就输出也只是产神经元组装神生微小的可能。经网络的了，也就输入和输出都变为连续训练成为候，gmoid改变。的的改变的时可

到过这个例子。提做过尝在经也nddeeplea书《norksa也曾经euralnetwrning》这本书中人员曾历史上，很多研究ielsen的试，michaeln

�pneruworks)�。alnet隐藏层，属于有�e浅层的神经网络这个神经网会有多层隐藏层深度神经(shallown网络一层ks)。而真正的alnet络只，则

的设计方式神经元系统采用了左右脑半球进行设计和制造。

，9。当然，受s)，有1;0;u;t;p;u代表识，每个输出也�(z)的限制;函数㰰最间的数。肯定是0~1之别结果是0，1，2l;a;y;e;r;右侧则是输出层(o;ሦ�个神经元节点，分别，.g;m;o;i;d

果就是它。那我们得到一组输出值之后，哪个输出的值结最大，最终的识别

而在训练的时候，输的那个数字输出正确隐藏层和输出层之间也为1，其它输出为连接。出的形式则是：0，是全

11935数有1个。数个数为：910+25=ᒾ=ፕ参神经网络共的权重参数=25个，总共参910个，偏置15+1有785+104ፕ

个非常惊人的数字。这是一