近日,知名媒體人Ashlee Vance主辦的Core Memory播客發(fā)布了對OpenAI前研究副總裁Jerry Tworek的深度專訪。作為OpenAI的元老級成員,Tworek在2019年加入公司,主導了推理模型o1、o3等關鍵項目。他在訪談中透露,隨著行業(yè)競爭加劇和組織規(guī)模迅速擴張,OpenAI正面臨創(chuàng)新困境,部分前沿研究方向難以在公司內部推進。
Tworek指出,OpenAI當前的結構性困境主要體現在風險承擔意愿下降和跨團隊協作困難。他表示,公司為保持競爭力,必須應對用戶增長和GPU成本等現實壓力,這導致對高風險研究的支持減弱。同時,組織架構的膨脹使得研究工作難以突破部門邊界,而大型機構對秩序的需求與研究本身所需的活力存在天然矛盾。
針對行業(yè)同質化現象,Tworek表達了對頭部AI公司研究路徑趨同的擔憂。他觀察到,目前五家主要AI公司幾乎采用相同的技術方案,導致模型間差異微小。這種局面使得研究人員難以在主流機器學習范式之外探索新方向,他強調:"如果想在主流范式之外做點不同的事情,幾乎找不到合適的地方。"
在談到人才流動問題時,Tworek認為頻繁跳槽現象反映了行業(yè)激勵機制的短視化。他指出,當前AI領域薪酬水平過高,導致研究人員更傾向于追求短期回報而非承擔創(chuàng)新風險。這種現象與真正的科技進步需求相悖,因為突破性進展往往需要長期投入和冒險精神。
關于AI發(fā)展路徑,Tworek特別強調了架構創(chuàng)新和持續(xù)學習的重要性。他認為Transformer架構雖具革命性,但不應成為限制探索的終點。他指出:"一定還存在其他訓練大模型的方法,它們可能看起來有點像Transformer,也可能完全不像。"對于持續(xù)學習,他表示這是實現通用人工智能(AGI)的關鍵缺失環(huán)節(jié),當前模型仍缺乏從接觸數據中實時學習的能力。
在AGI時間表方面,Tworek預測這項技術將在2029年左右實現。他承認當前模型在多模態(tài)感知和持續(xù)學習等方面存在明顯不足,但認為隨著投資增加和人才儲備擴大,發(fā)展速度可能超出預期。他特別提到,架構突破和持續(xù)學習能力的融合將是實現AGI的重要方向。
訪談中,Tworek還分享了對競爭對手的看法。他認為谷歌的崛起部分源于OpenAI自身執(zhí)行速度放緩,而Anthropic在編程智能體領域的成就令人欽佩。對于行業(yè)人才競爭,他強調公司文化比個別明星研究員更重要,良好的研究結構和協作方式才是持續(xù)創(chuàng)新的關鍵。
當被問及未來規(guī)劃時,Tworek表示希望專注于具有重大影響力的研究方向。他強調專注力和信念的重要性,認為減少實驗數量、深入分析數據往往比盲目增加實驗次數更有效。對于計算資源需求,他正在探索平衡獨立研究與大型機構支持的最佳路徑。











