在深度神經(jīng)網(wǎng)絡(luò)(DNN)反向傳播算法(BP)中,我們對DNN的前向反向傳播算法的使用做了總結(jié)。里面使用的損失函數(shù)是均方差,而激活函數(shù)是Sigmoid。實際上DNN可以使用的損失函數(shù)和激活函數(shù)不少。這些損失函數(shù)和激活函數(shù)如何選擇呢?下面我們就對DNN損失函數(shù)和激活函數(shù)的選擇做一個總結(jié)。
1. 均方差損失函數(shù)+Sigmoid激活函數(shù)的問題
在講反向傳播算法時,我們用均方差損失函數(shù)和Sigmoid激活函數(shù)做了實例,首先我們就來看看均方差+Sigmoid的組合有什么問題。
首先我們回顧下Sigmoid激活函數(shù)的表達(dá)式為:
σ
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26
