什么是神经网络 (深度学习第一章)?



Neural Network讲解视频
What are the neuronts?
存储数字,返回函数值的function
How are they connected ?
这里写图片描述
a1+ a2+ a3+ a4 +……+ an代表第一层的激活值
ω1ω2….. ω7ω8代表权重值
这里写图片描述
计算加权和,把正的权重值标记为绿色,负的权重值标记为红色,颜色越暗,代表越接近0
这样把我们关注的区域权重值赋值为正值,其他权重值全部赋值为0,这样就只会累计我们关注区域的像素值了。如果要确认是否有一条线的存在,可以将线的周围的权重值赋值为负数,这样的话中间的向素亮,周围的像素暗时,加权和就能达到最大。
但是这样计算出来的加权值是任意的,需要一个函数压缩到0-1的范围,Sigmoid函数特性就是特别小的x函数值接近0,特别的的x函数值接近1,
这里写图片描述

有时候,加权和大于0时,你也不想把这个神经元点亮,可以设置一个偏移值进行调整。(权重告诉你这个第二层神经元关注什么样的像素图形,二偏移值甘肃你加权值得多大才能神经元的激发有意义)
用一个更加简洁的式子来表达:
这里写图片描述

这里写图片描述
这样使得编程也变得简单,可以使用现成优化的矩阵函数numpy

留下一个问题? (后面进行解答)
Sigmoid函数和ReLU函数对神经元处理