我们可以通过调整改变器来说，它的权重和阈值也是给定这个策略。权重和阈值来一种决策策略。因此，对于一个给定的感知的，代表

hresh关于阈值ts）。一般用它的相反被称为偏置（b;ia的一点是，为了表达更方便，old，这里的bb=-threshold，这里需要指出数来表达：

：如果wt0，则输出o᠅𜖐铗�𛈍+w2x2ut=0。𜥼p这样，前面计算输，否则输出则就修改为+w3x3+...+b𜥼出的规

而权重w1=w2=-2，则b=3。

很明显，只(−2都是o;)1ᬐ=−1，小于下，򑆷有当x1=x2=1utput=1。其它输入的情况tput=0，因为(0。而−2)1的时候，ou

其实是一个“与所以在实际情况下，这非门”！

科学中，与非门是所有门部件中比较特殊的门部件。这被称的一个，它可以式表达任何其它在计算机ersality)。通过组合的方gateuniv为与非门的普适性(

能够通过设置恰当的权门，那么理论上它也任意其它的件。来表达一个与非既重和偏置然感知器就能表达门部参数，

系统。知器也能样，通过彼此三体中的例子一因此，而组成一个计算机够像前面连接从感

经有现成的计但这似了而已。算机了，这只不过是让事情复杂化乎没有什么值惊喜的，我们已得

知器连接起单个感知器能做的事情来。所以则是需要将多个感策，做复杂的决很有限。要

个地去配置这这项任务数十万个些参数，而实际中的网络可永远也完成不了了。参数，如果手工一个一能会有上万个，甚至恐怕

而神经网络最有特色的地方就在于这里。

学习，我们不是为网络中为所有参数找到指在学习过程。供训练数据，让网定所有参数，而是提最恰当的值络自己在训练中去

ingexamptrain值的时候，我们期望的样e）。：我们告诉网络当输出是什么，这样的输入是某个每一份训练数据，l大体的运转思路是这称为训练样本（

于这个过程相当生某个抽象的知体例子：识的时候，举一个具老师在教学

表达同样成立。那个抽象的知识。这在一般来说，我们举的例子越多，就越能网络的训练中神经

以向我们可背后的抽象的知识。本中总结出那份隐藏在动从这些样络就自网络灌入成千上万个训练样本，然后网

在于网络的所有这份知识的体现，就权重和偏置参数的取值。

假设各个参数有一个当我们输入一个训练样本的时候初始值，，它会根据当前参数实际输出值。值计算出唯一的一个

望的输出值不一让实际输出值和期望样。想象一下我们可以试着调，这时候，这个值可能跟我们期整某些参数的值，输出值尽量接近。

次就结束了。输出值已经无限接后，网络参数也调整值，这时每一过程到了最佳有的训练样当所期望本输入完毕之近，这样训练的实际输出值和

很大概率）的反应了，那么策。这就是一对数万个样本能够给出假设在训练正确（或接近正确。络工作的原理没见过的数再给它输入一个它给出我们预期的个神经网过程中，网络已经据，它也应该有决

但这里还有一个问题如际输出值和期望输出值的时候，要产生差异何去调整各个参数，在训练过程中，当实呢？

：通过调整参数的方式前，也应该先弄当然，在思考获得期望的输出怎么做之清楚法行得通吗？，这个方

可行。来说，这个方法基本不网络实际上，对于感知器

比如在上图有39个参输出基本完全不可预测。数的感知器网维持输入不变，我们的络中，如果参数的值，那么最终改变某个

1;（或从1;维变到0），当然也可能输入和输出都是二进制的它或者从0变到0或者1。，只能是这个问题的关键在于：持不变。

入，有输出），是连续的。有输个网络看成一个函数（如果把整那么这个函数不

于是，这就出现igmo能，我们需要一个输入了s可因此，为了让训练成为和输出能够在实数上id神经元。保持连续的神经网络。

网络经，但有两sigmo的基与感知器dneuron)是现代神经i本结构（当然个重要的区别。的结构类似不是唯一的结构）。d神经元(sigmoi常使用它

1之间的制为0和1，而可以第一，它的输入不再限实数。是任意0~

求和再加上偏置参数二，它的输出也不第的而是将各个输入的加权再限制为0和1，sigmoi，经过一个称为计算作为输出。d函数

)=1/(1+e-z)。2x2+w中：㰰(z;�ut=㰰(z)，其�+...假设z=w1x�具体来说，+b，那么输出o

0~1之间、连续的数σ(z)是一个平滑经元的输入，保持在的实数，0~1之间。函这个输出值可以直接作为下一层神。而且，它的输出也是

为可能。神经网络之后，网逐步调整参数值的变的时候，它的输出变为连续的值进行微小当我们对某个参数的使得装了，也就是说，也只是产可以想象，在采用s的改igmoid神经元组络的输入和输出都生微小的改变。这样就训练成

过这个例子。n的书《neural�lnie，eepl人员ng》这本𚸔提到michae在历史上，很多研究书中也曾经dnetworksa�⟕曾经也做过尝试

wneuralnetworks)nerualnetworks络(d𚙏。而真正的深度神经网隐藏层，属于浅shal�)个神经网络只有一层，则会有多层隐藏层层的神经网络(。这

神经元系统采用了左右脑半球制造。的计和设计方式进行设

则是输出层最右侧数。也肯定是0~1之间的z)的限制，每个输出l;a;y;e;;p;u;t;别结果是0i;g;m0;个神经...，9。当然，受元节点，分别代表识d;函数㰰((o;u;tr;)，有1;�⤿，1，2，ⴧ

个的识别结果就是它值之后，哪。在得到一组输出输出的值最大，最终那我们

1而在训练的时候，输出：正确的那个数字输出为，其它输出的形式则是输出层之间也是全连接为0，隐。藏层和

数个数为1ᒾ=11910个数有15+135个。而神经网络共的：1191权，偏置参0+25=119重参数有78415+0=25个，总共参

数字。这是一个非常惊人的