本發(fā)明提供一種自動(dòng)混合精度量化方法及裝置,其中,所述方法包括:獲取多輸入多輸出MIMO檢測(cè)器在對(duì)MIMO系統(tǒng)進(jìn)行信號(hào)檢測(cè)的過(guò)程中產(chǎn)生的待量化的中間變量;通過(guò)深度強(qiáng)化學(xué)習(xí)算法對(duì)智能體進(jìn)行訓(xùn)練,并基于訓(xùn)練好的所述智能體中存儲(chǔ)的策略對(duì)每個(gè)所述中間變量的小數(shù)位寬進(jìn)行量化;基于概率密度函數(shù),對(duì)每個(gè)所述中間變量的整數(shù)位寬進(jìn)行量化。本發(fā)明可以自動(dòng)實(shí)現(xiàn)MIMO檢測(cè)器中不同中間變量的量化位寬的分配,避免了大量的量化位寬冗余,節(jié)省硬件資源。
聲明:
“自動(dòng)混合精度量化方法及裝置” 該技術(shù)專利(論文)所有權(quán)利歸屬于技術(shù)(論文)所有人。僅供學(xué)習(xí)研究,如用于商業(yè)用途,請(qǐng)聯(lián)系該技術(shù)所有人。
我是此專利(論文)的發(fā)明人(作者)