本發(fā)明涉及一種面向目標(biāo)檢測模型Faster R?CNN的自動量化方法,涉及深度神經(jīng)網(wǎng)絡(luò)的量化和基于深度學(xué)習(xí)的強化學(xué)習(xí)領(lǐng)域。具體過程為:遍歷目標(biāo)檢測模型Faster R?CNN,獲取可量化網(wǎng)絡(luò)層的索引,利用一個十維向量為每一層可量化的網(wǎng)絡(luò)構(gòu)建狀態(tài),創(chuàng)建目標(biāo)檢測模型Faster R?CNN的存儲資源查詢表,評估未量化時目標(biāo)檢測模型Faster R?CNN的準(zhǔn)確率,利用基于深度學(xué)習(xí)的強化學(xué)習(xí)方法搜索最佳的量化策略,對量化后的目標(biāo)檢測模型Faster R?CNN再訓(xùn)練。該方法解決了傳統(tǒng)的基于規(guī)則的啟發(fā)式量化算法需要大量的人力工作為網(wǎng)絡(luò)的每一層設(shè)計最佳的量化位寬的問題。同時為了加快量化策略的搜索速度,將量化后模型所需的存儲資源融入到搜索過程中,跳過不必要的搜索,從而提高搜索速度。
聲明:
“面向目標(biāo)檢測模型Faster R-CNN的自動量化方法” 該技術(shù)專利(論文)所有權(quán)利歸屬于技術(shù)(論文)所有人。僅供學(xué)習(xí)研究,如用于商業(yè)用途,請聯(lián)系該技術(shù)所有人。
我是此專利(論文)的發(fā)明人(作者)