廣告
算力限制場景下的目標(biāo)檢測實(shí)戰(zhàn)淺談
2019-01-21 23:39:47·
舉個小例子，這里針對mobilenet-v2 有一個小的點(diǎn)是我著重去調(diào)整的，就是1/4 這個尺寸下，第一個bottleneck極小只有4，是否這個值太小會導(dǎo)致對特征的描述太弱，而調(diào)大它對網(wǎng)絡(luò)整體計算量影響并不大，則可以嘗試。
這里總結(jié)一下，簡單說就是在當(dāng)前狀態(tài)找一個最需要調(diào)整的維度，有哪些維度就靠經(jīng)驗(yàn)和他山之石了。另外，一般情況下，如果某個變量會明顯提高，那么就著重優(yōu)化一下它唄，也就是前文所說的在邊際效用遞減曲線上上升趨勢比較明顯的變量值得著重考慮。
而哪一個是最需要調(diào)整的呢，如果靠經(jīng)驗(yàn)都想不出的時候，那就隨便挑一個，因?yàn)檎娴目赡苡衅嫘?。其?shí)我的感覺是，這個人肉搜索過程其實(shí)完全可以看做是一個隨機(jī)梯度下降的過程，每次自己都是用自己的評價函數(shù)找到了一個最佳維度然后往最優(yōu)迭代。并且有的時候嘗試的調(diào)整可以超出預(yù)期的值一定范圍，例如裁窄網(wǎng)絡(luò)之后加深的時候可以超量多加一些層，看看趨勢。這個就可以好比是使用大的學(xué)習(xí)率或者時模擬退火算法了。
而人肉調(diào)整的好處是，我不需要每次都按相同的學(xué)習(xí)率調(diào)整，有的時候可以走一大步，節(jié)省不少迭代次數(shù)。
好，好不容易找?guī)讉€模型，但是事情還沒完，現(xiàn)在需要翻回頭去在現(xiàn)在的結(jié)構(gòu)上，再次調(diào)整之前的參數(shù)了。而在這些參數(shù)確定之后，還要再次回頭把挑出來的網(wǎng)絡(luò)結(jié)構(gòu)再驗(yàn)證一次。因?yàn)檫@里存在多變量聯(lián)合作用影響結(jié)果的情況，以及評價標(biāo)準(zhǔn)缺陷或者訓(xùn)練過程隨機(jī)因素導(dǎo)致的偶然因素。不過這里的工作量相比之前已經(jīng)不大了，因?yàn)榍懊嬉呀?jīng)排除掉了一些明顯不行的選項(xiàng)嘛。
廣告 編輯推薦
最新資訊
-
聯(lián)合國法規(guī)R60對兩輪車操縱件與指示裝置的
2026-03-04 12:08
-
標(biāo)準(zhǔn)立項(xiàng)|《汽車異種材料鉚接接頭拉伸性能
2026-03-04 11:40
-
“汽車大角度座椅 第1部分：通用要求”將有
2026-03-04 11:39
-
“汽車大角度座椅 第2部分：可靠性要求”將
2026-03-04 11:39
-
電池耐久評價開始從“電池單體性能指標(biāo)”轉(zhuǎn)
2026-03-04 11:38
