可以看出,这个单一“神经元”的输入-输出映射关系其实就是一个逻辑回归(logistic regression)。虽然本系列教程采用sigmoid函数,但你也可以选择双曲正切函数(tanh):
以下分别是sigmoid及tanh的函数图像
tanh(z)函数是sigmoid函数的一种变体,它的取值范围为[−1,1],而不是sigmoid函数的[0,1]。
注意,与其它地方不同的是,这里我们不再令x0 = 1。取而代之,我们用单独的参数b来表示截距。
最后要说明的是,有一个等式我们以后会经常用到:如果选择f(z) = 1 / (1 + exp( − z)),也就是sigmoid函数,那么它的导数就是f'(z) = f(z)(1 − f(z))(如果选择tanh函数,那它的导数就是f'(z) = 1 − (f(z))2,你可以根据sigmoid(或tanh)函数的定义自行推导这个等式。 来,自.优;尔:论[文|网www.youerw.com +QQ752018766-
2。2 神经网络模型
所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一个“神经元”的输入。例如,下图就是一个简单的神经网络: