BP神经网络基础理论
BP模型原理与模型结构
【拓展】BP神经网络传递函数介绍(tansig、logsig、purelin)
作者 : 老饼 日期 : 2022-06-09 05:02:24 更新 : 2022-10-25 15:57:46
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》bp.bbbdata.com



对于BP神经网络,最基本、最常用的传递函数有tansig、logsig和purelin函数,

本文介绍这三个传递函数的一些性质



  01. tansig函数  


本节介绍tansig函数的表达式、图象、特性和导数等,从各方面了解tansig的性质


    tansig表达式    


tansig的表达式为:

  



  tansig函数图象  


tansig的函数图象如下 



    tansig 函数特性    


可以知道,当tansig自变量为一维时,它是一条S形曲线
● 它的取值区间为 (-1,1)                                          
● tansig非线性部分主要集中在【-1.7,1.7】之间,
● 在【-1.7,1.7】外,tansig逐渐趋向饱和。          
相对地,在二维时,tansig就是一个S形曲面,更高维时,就是S形超曲面




   tansig 导  数    


tansig的导数为

tansig的导数可以用自身表示,这是一个非常重要的属性,给导数计算提供了便利。
tansig的导数图象如下






  02. logsig函数  


本节介绍logsig函数的表达式、图象、特性和导数等,从各方面了解logsig的性质


    logsig表达式    


logsig的表达式为:

  



  logsig函数图象  


logsig的函数图象如下 



    logsig函数特性    


可以知道,当logsig自变量为一维时,它是一条S形曲线。
● 它的取值区间为 (0,1)                                          
● logsig非线性部分主要集中在【-1.7,1.7】之间,
● 在【-1.7,1.7】外,logsig逐渐趋向饱和。          
 相对地,在二维时,logsig就是一个S形曲面,更高维时,就是S形超曲面



   logsig导数    


logsig的导数为

logsig的导数可以用自身表示,这是一个非常重要的属性,给导数计算提供了便利
logsig的导数图象如下



  03. purelin  


    表达式    


purelin的表达式为:

  
可以看到,purelin就是恒等映射,
传递函数设为purelin时,跟没有传递函数是一样的




  03. 总 结  


下面简单总结一下tansig、logsig和purelin三个传递函数的特性


   tansig 和  logsig    


tansig和logsig都是S形函数,
它们的非饱和区间都在【-1.7,1.7】,
它们的导数都可以用自身表示。
tansig和logsig最大区别在于它们的取值范围,
tansig的取值范围为(-1,1),
而logsig的取值范围为(0,1),
本质上来说,两个函数没有太大的区别



    purelin     


purelin是恒等映射函数,
当激活函数设为purelin时,
相当于直接把神经元值作为激活值传递给下一层。






  End  










联系老饼