最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會(huì)員登陸 & 注冊(cè)

論文閱讀1.2:addernet小實(shí)驗(yàn),權(quán)重分布和推斷速度

2021-04-19 19:38 作者:克萊登大學(xué)宅學(xué)博士  | 我要投稿

使用兩層卷積網(wǎng)絡(luò),一開(kāi)始訓(xùn)練了40多個(gè)epoch沒(méi)收斂,檢查一下網(wǎng)絡(luò),沒(méi)加bn。。。,加了bn之后很快收斂,如圖

可視化一下權(quán)重,挺符合拉普拉斯分布的,epoch訓(xùn)的比較少。

論文中的weights分布圖

同時(shí)用同樣結(jié)構(gòu)的CNN訓(xùn)練一下,準(zhǔn)確率百分之99左右,差不多就是高斯分布,和論文所說(shuō)一致,原因在上次addernet里講過(guò)。

然后addernet的FLOPs和正常CNN的FLOPs,我找到MAC,換算一下就好了


Addnet確實(shí)推斷速度會(huì)快。


論文閱讀1.2:addernet小實(shí)驗(yàn),權(quán)重分布和推斷速度的評(píng)論 (共 條)

分享到微博請(qǐng)遵守國(guó)家法律
翼城县| 北海市| 南阳市| 南皮县| 肥东县| 新密市| 民丰县| 班玛县| 绥化市| 依安县| 兴安盟| 天津市| 海林市| 侯马市| 垦利县| 阜宁县| 博野县| 西乡县| 依安县| 汝城县| 南汇区| 南皮县| 平度市| 稷山县| 申扎县| 吉隆县| 通海县| 万盛区| 望城县| 新巴尔虎左旗| 上饶县| 尚义县| 姜堰市| 德令哈市| 浏阳市| 电白县| 河西区| 景东| 象山县| 南溪县| 海口市|