概述

简而言之，神经网络便是函数：输入数据，输出作用。

函数

咱们以MNIST手写数字图画辨认为例，来界说一下对应的函数办法：

• 任务类型：图异或门像分类
• 输入：一张软件应用图软件工程工作方向及前景像包含28 x 28=784个像素，每个像素用一个实数标明
• 输出：0-异或运算公式9
• 任务描绘：从图画张辨认出仅有的数字
• 函数界说

y=算法导论f(x1,x2,…,x784)y = f(x_1, x_2, …, x_{784})y=f(x1​,x2​,...,x784​)
xi∈R,i=1,.变量类型有哪些..,784x_i in mat软件hbb R, i = 1, …, 784xi​∈R,i=1,...,784算法
$y\in \{0,1,...,9\}$

这是神经网络的一个入门级运用，输入是一张低分辨率(28 x 28)的黑白图片，对应的是一个具有784个输入变量的函数。如果是一张百万像素的彩色图片，对应的输入变量就会抵达300万个。

由此可见，用神经网络处理的都是一些杂乱的问题，对应的也是杂乱的函数。完结算法便是要结构对应的函算法剖析的目的是数。

如此杂乱的函数怎么结构呢？咱们能够从简略的函数开端异或运算公式，最简略且最成功的的例子便是数字电路。

数字电路

数字电路是计算机的柱石，构建了咱们巨大的数字国际。但是其中心却是由与、或、非逻辑门所构成。

什么是逻辑门？其实便是函数。软件并且都是最异或运算简略的函数。

• 变量类型: 都是布尔变量，只要2个值：$\{T,F\}$，远比自然数($\mathbb{N}$)、实数($\mathbb{R}$)简略。
• 变量数：一元或二元函异或运算数，也是最简略的函数办法
• 函数标明：运用真值表进行描绘。为什么不用图画呢？因为是离散函数，在图画上是一些孤立的点，不太美丽。

非门NOT

与门AND、或门OR

与门图画

或算法的时刻复杂度取决于门图画

组合逻辑门

将简略的逻辑门进行组合，能够获得更健壮的函数。

结构新的二元函数：

• 异或: $x\oplus y=(x\wedge y)\vee (x\wedge y)$

  

• 同或: x⊖y=(x∧y)∨(x∧y)x ominus y = (x land y) lor (lnot x land lnot y)x⊖y=(x∧y)变量之间的联系∨(x∧y)

  

结构多元函数：

• 3位与: $f(x,y,z)=x\wedge y\wedge z$

  

• 8位加法器: f(x1,…,x8,y1,…,y8)f(x_1, …, x_8, y_1, …,变量的指针其含义是指该变量的 y_8)f(x1​,...,x8​,y1​,.软件技术..,y8​)

  • 它是一个包含16个布尔变量的16元函数

经过对简略函数的复合，能够结构杂乱的函数。这一思维也适用于神经网络。

神经网络

神经网络也是函数。像数字电路相同，它也是由简略的函数复合而成。数字电路的根柢单位是与、或、非门，而神经网络的根柢单位则是神经元变量值。

神经元

那什么是神经元呢？生物神经元是一个细胞，有输入的树突，有输出的轴突。而神经网络上的神经元是人工神经元，它也是一个函数，更精确地说，它是一类函数。

神经元的输入数量是能够改变的，也便是说它代表的是一个$n$元函数f(x1,…,xn)f(x_1, …, x_n)f(算法的五个特性x1​,异或...,xn​变量之间的联系)，而不异或运算法则同神经元的$n$是能够不同的。

神经网络

神经元之间互相组合，就构成了神经网络变量的界说。如下图所示：

该神经网络包含三个神异或门符号经元：

• f1(x1,…,xn) f_1(x_1, …, x_n)f1​(x1​,...,xn​)
• f2(x1,…,x软件工程学什么n) f_2(x_1, …, x_异或运算n)f2​(x1​,...,xn​)
• f3(x1,x2) f_3(x_1, x_2)f3​(x1​,x2​)

神经网络所代表的函数为：
f(x1,…,软件测验xn)=f3(f1(x1,…,xn),f2(x1,…,xn))f(x_1, …, x_n) = f_3(f_1(x_1, …, x_n), f_2(x_1, …, x_n))f(x1​,...,xn​)=f3​(f1​(x1​,异或同或...,软件工程专业xn​),f2​(x1​,...,xn​))

问题

神经元所代表的函数毕竟是什么？

只知道是个$n$元函数可不行，数字电路中的根柢单元与、或、非门可都是列出了真值表，画出了图画的，而神经元呢？

参看软件

可交互图表版别异或门符号，请参看：