本發(fā)明涉及一種基于強化學習的異構(gòu)MapReduce集群推測執(zhí)行調(diào)度方法,屬于大數(shù)據(jù)處理領(lǐng)域。本發(fā)明采用基于Q?learning強化學習的節(jié)點權(quán)重動態(tài)更新方法,基于歷史信息實現(xiàn)節(jié)點權(quán)重的自適應(yīng)調(diào)整,有效提升了task剩余運行時間的估算準確性;對straggler進行是否遷移的判別,需同時滿足備份task比例約束,以及遷移后的運行時間約束兩項條件,straggler才能啟動備份任務(wù);同時結(jié)合map task快節(jié)點和reduce task快節(jié)點,這種方式提升了異構(gòu)MapReduce集群的資源利用率。基于典型數(shù)據(jù)集的仿真試驗結(jié)果表明,相比于現(xiàn)有算法,本文提出的算法對于大規(guī)模數(shù)據(jù)的處理效率明顯提升。
聲明:
“基于強化學習的異構(gòu)MapReduce集群推測執(zhí)行調(diào)度方法” 該技術(shù)專利(論文)所有權(quán)利歸屬于技術(shù)(論文)所有人。僅供學習研究,如用于商業(yè)用途,請聯(lián)系該技術(shù)所有人。
我是此專利(論文)的發(fā)明人(作者)