基于pytorch后量化(mnist分類)—浮點訓練vs多bit后量化vs多bit量化感知訓練效果對比
代碼下載地址:下載地址
試了 bit 數為 1~8 的準確率,得到下面這張折線圖:
發現,當 bit >= 3 的時候,精度幾乎不會掉,bit = 2 的時候精度下降到 69%,bit = 1 的時候則下降到 10%,
這一方面是 mnist 分類任務比較簡單,但也說明神經網路中的冗余量其實非常大,所以量化在分類網路中普遍有不錯的效果,
卷積層量化
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/438650.html
標籤:AI