本申請(qǐng)公開(kāi)了混合精度神經(jīng)網(wǎng)絡(luò)量化方法、裝置及設(shè)備。其中,所述方法通過(guò)結(jié)合強(qiáng)化學(xué)習(xí)和驗(yàn)證數(shù)據(jù)生成技術(shù)來(lái)確定混合精度量化策略,使得基于自動(dòng)生成的驗(yàn)證數(shù)據(jù)集來(lái)確定混合精度網(wǎng)絡(luò)和待量化網(wǎng)絡(luò)輸出的分布差距,以此作為評(píng)判量化策略效果的標(biāo)準(zhǔn)。采用這種處理方式,無(wú)需用戶提供用于檢驗(yàn)量化網(wǎng)絡(luò)的準(zhǔn)確率的驗(yàn)證數(shù)據(jù),且降低了驗(yàn)證量化網(wǎng)絡(luò)準(zhǔn)確率的耗時(shí);無(wú)需用戶微調(diào)通過(guò)強(qiáng)化學(xué)習(xí)確定的量化網(wǎng)絡(luò),即可獲得用較小精度損失換取較大計(jì)算量降幅的量化網(wǎng)絡(luò),且簡(jiǎn)化了網(wǎng)絡(luò)量化流程,實(shí)現(xiàn)了用戶無(wú)感的模型量化策略搜索;因此,在確保模型精度損失較小的前提下,可以有效提升模型量化效率,保護(hù)用戶的數(shù)據(jù)隱私,以及降低人工成本。
聲明:
“混合精度神經(jīng)網(wǎng)絡(luò)量化方法、裝置及設(shè)備” 該技術(shù)專利(論文)所有權(quán)利歸屬于技術(shù)(論文)所有人。僅供學(xué)習(xí)研究,如用于商業(yè)用途,請(qǐng)聯(lián)系該技術(shù)所有人。
我是此專利(論文)的發(fā)明人(作者)