本申請(qǐng)公開(kāi)了一種自適應(yīng)蛋白質(zhì)預(yù)測(cè)框架的實(shí)現(xiàn)方法、裝置及設(shè)備，該方法包括：基于BERT式掩蓋語(yǔ)言模型處理源數(shù)據(jù)，得到訓(xùn)練樣本集；對(duì)Transformer模型進(jìn)行無(wú)監(jiān)督預(yù)訓(xùn)練，得到教師模型；固定教師模型的參數(shù)，對(duì)教師模型和學(xué)生模型進(jìn)行協(xié)同訓(xùn)練，并僅優(yōu)化學(xué)生模型的參數(shù)，以將教師模型的知識(shí)蒸餾到學(xué)生模型中，在知識(shí)蒸餾過(guò)程中，利用搬土距離算法自適應(yīng)地學(xué)習(xí)預(yù)訓(xùn)練教師模型的中間隱藏層和學(xué)生模型的中間隱藏層之間多對(duì)多的映射關(guān)系；利用經(jīng)訓(xùn)練的學(xué)生模型進(jìn)行不同的蛋白質(zhì)預(yù)測(cè)任務(wù)預(yù)測(cè)，輸出預(yù)測(cè)結(jié)果。通過(guò)上述方式，能夠顯著中間緩解模型龐大帶來(lái)的計(jì)算資源不足以及訓(xùn)練、推斷時(shí)間過(guò)長(zhǎng)的問(wèn)題。