BP基础理论
模型结构与训练
传递函数介绍(tansig、logsig、purelin)
作者 : 老饼 日期 : 2022-06-09 05:02:24 更新 : 2022-09-20 16:36:22
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》bp.bbbdata.com



对于BP神经网络,最基本、最常用的传递函数有tansig、logsig和purelin函数,本文介绍这三个传递函数的一些性质。



  01. tansig  

    表达式    


tansig的表达式为:

  


  函数图象  


函数图象如下:


    特  性    


可以知道,当tansig自变量为一维时,它是一条S形曲线。
● 它的取值区间为 (-1,1)                                          
● tansig非线性部分主要集中在【-1.7,1.7】之间,
● 在【-1.7,1.7】外,tansig逐渐趋向饱和。          

相对地,在二维时,tansig就是一个S形曲面,更高维时,就是S形超曲面。



   导  数    


tansig的导数为:


tansig的导数可以用自身表示,这是一个非常重要的属性,给导数计算提供了便利。



   导 数 图 象   

tansig的导数图象如下:






  02. logsig  

    表达式    


logsig的表达式为:

  


  函数图象  


函数图象如下:



    特  性    


可以知道,当logsig自变量为一维时,它是一条S形曲线。
● 它的取值区间为 (0,1)                                          
● logsig非线性部分主要集中在【-1.7,1.7】之间,
● 在【-1.7,1.7】外,logsig逐渐趋向饱和。          

相对地,在二维时,logsig就是一个S形曲面,更高维时,就是S形超曲面。



   导  数    


logsig的导数为:


logsig的导数可以用自身表示,这是一个非常重要的属性,给导数计算提供了便利。



   导 数 图 象   

tansig的导数图象如下:


  03. purelin  


    表达式    


purelin的表达式为:

  



可以看到,purelin就是恒等映射,传递函数设为purelin时,跟没有传递函数是一样的。

  03. 总 结  


  tansig    和   logsig   


tansig和logsig都是S形函数,
它们的非饱和区间都在【-1.7,1.7】,
它们的导数都可以用自身表示。
tansig和logsig最大区别在于它们的取值范围,
tansig的取值范围为(-1,1),
而logsig的取值范围为(0,1),

本质上来说,两个函数没有太大的区别。


  purelin   


purelin是恒等映射函数,当激活函数设为purelin时,相当于直接把神经元值作为激活值传递给下一层。






  End  










联系小饼