倫敦大學(xué)學(xué)院、華為諾亞方舟實驗室與巴塞爾大學(xué)等機構(gòu)組成的聯(lián)合研究團隊，在多任務(wù)語言模型訓(xùn)練領(lǐng)域取得重要進展。其提出的MT-GRPO訓(xùn)練框架通過動態(tài)平衡不同任務(wù)的學(xué)習(xí)強度，有效解決了傳統(tǒng)方法中"強者恒強、弱者恒弱"的失衡問題。這項發(fā)表于arXiv平臺的研究（編號：arXiv:2602.05547v1），為構(gòu)建更可靠的通用型AI系統(tǒng)提供了新思路。

當前主流訓(xùn)練方法存在顯著缺陷：一方面對簡單任務(wù)和復(fù)雜任務(wù)采用"一刀切"的資源分配策略，如同給食量不同的孩子分配相同份量的食物；另一方面存在大量無效訓(xùn)練樣本，導(dǎo)致模型看似忙碌實則進步緩慢。研究團隊形象地將這種現(xiàn)象比作"課堂上的走神學(xué)生"——即便獲得訓(xùn)練機會，也可能因梯度消失問題無法產(chǎn)生實際學(xué)習(xí)效果。

新框架的核心創(chuàng)新在于雙管齊下的改進機制。其"改進感知權(quán)重調(diào)整"系統(tǒng)突破了傳統(tǒng)僅關(guān)注任務(wù)絕對表現(xiàn)的局限，通過追蹤每個任務(wù)的進步軌跡動態(tài)調(diào)整訓(xùn)練重點。當檢測到某個任務(wù)雖當前得分較低但進步顯著時，系統(tǒng)會保持現(xiàn)有訓(xùn)練強度；若發(fā)現(xiàn)任務(wù)長期停滯不前，則會立即加大資源投入。這種機制確保模型發(fā)展既關(guān)注當前水平，更重視成長潛力。

配套開發(fā)的"比例保持采樣器"則解決了訓(xùn)練效率難題。該組件通過預(yù)估每個任務(wù)的有效學(xué)習(xí)率，自動過濾無效訓(xùn)練樣本。實驗數(shù)據(jù)顯示，在傳統(tǒng)方法中，若某任務(wù)分配30%訓(xùn)練時間但僅30%樣本有效，實際學(xué)習(xí)時間僅9%；而新采樣器可將有效學(xué)習(xí)時間提升至接近理論值，確保資源投入產(chǎn)生實質(zhì)性回報。

在數(shù)字推理、邏輯謎題和抽象模式識別三類典型任務(wù)的測試中，新方法展現(xiàn)出顯著優(yōu)勢。三任務(wù)場景下，最弱任務(wù)的準確率較標準方法提升16-28個百分點，較先進方法DAPO提升6個百分點，同時訓(xùn)練步數(shù)減少50%。當任務(wù)擴展至九個不同難度級別時，通過調(diào)節(jié)系統(tǒng)參數(shù)λ，可在提升最弱任務(wù)表現(xiàn)與維持整體性能間實現(xiàn)靈活平衡。

技術(shù)實現(xiàn)層面，研究團隊將多任務(wù)訓(xùn)練轉(zhuǎn)化為約束優(yōu)化問題，通過數(shù)學(xué)推導(dǎo)轉(zhuǎn)化為最大最小優(yōu)化模型。系統(tǒng)采用softmax函數(shù)確保任務(wù)權(quán)重符合概率分布，配合梯度下降算法實現(xiàn)權(quán)重動態(tài)更新。這種設(shè)計既保證了理論嚴謹性，又確保了工程實現(xiàn)的穩(wěn)定性。

消融實驗證實，改進感知權(quán)重調(diào)整和比例保持采樣器構(gòu)成系統(tǒng)成功的兩大支柱。單獨移除任一組件都會導(dǎo)致性能顯著下降，驗證了理論分析的正確性。研究團隊特別指出，當前實驗基于30億參數(shù)模型，更大規(guī)模模型的適配性有待進一步驗證。

這項突破對AI應(yīng)用產(chǎn)生深遠影響。在消費端，未來的AI助手將擺脫"偏科"局限，能夠在數(shù)學(xué)計算、邏輯推理、模式識別等多領(lǐng)域提供均衡可靠的服務(wù)。產(chǎn)業(yè)界則獲得重要技術(shù)工具，通過提升模型全面性增強市場競爭力，加速用戶信任建立和應(yīng)用場景拓展。

研究團隊將訓(xùn)練過程類比為教練培養(yǎng)運動員：新方法不僅關(guān)注運動員的當前成績，更重視其成長軌跡和潛力挖掘。這種訓(xùn)練哲學(xué)推動AI發(fā)展從追求單項指標突破轉(zhuǎn)向追求整體能力均衡，為構(gòu)建真正智能的系統(tǒng)開辟新路徑。技術(shù)細節(jié)詳見arXiv平臺完整論文。