3月31日消息，近日，DeepMind創(chuàng)始人德米斯?哈薩比斯坦言，其研發(fā)的超級(jí)人工智能存在滅絕人類的風(fēng)險(xiǎn)，而當(dāng)前AI發(fā)展競(jìng)賽已進(jìn)入無法停止的狀態(tài)，人類難以通過外部治理手段有效管控。

他徹底放棄此前依賴制度、倫理委員會(huì)約束AI的構(gòu)想，承認(rèn)治理結(jié)構(gòu)在關(guān)鍵決策中難以發(fā)揮作用，只能依靠自身爭(zhēng)取話語權(quán)來把控AI安全走向。

哈薩比斯一直是AI安全的堅(jiān)定倡導(dǎo)者，早年曾設(shè)想通過獨(dú)立監(jiān)督、秘密研發(fā)等方式打造絕對(duì)安全的超級(jí)智能。

2014年將DeepMind出售給谷歌時(shí)，還明確要求保留AI安全獨(dú)立決策權(quán)、設(shè)立外部監(jiān)督委員會(huì)并禁止軍事應(yīng)用。

但這些安全構(gòu)想接連落空，馬斯克參與相關(guān)集會(huì)后轉(zhuǎn)而創(chuàng)立OpenAI，打破了單一主體管控AI的設(shè)想，后續(xù)與谷歌的治理權(quán)談判也以失敗告終。

2022年ChatGPT的出現(xiàn)，徹底打亂了AI研發(fā)節(jié)奏，谷歌陷入競(jìng)爭(zhēng)焦慮，DeepMind與谷歌大腦合并，安全規(guī)范讓位于研發(fā)速度，此前的安全防線逐步失效。

哈薩比斯由此認(rèn)清現(xiàn)實(shí)，在商業(yè)競(jìng)爭(zhēng)與技術(shù)競(jìng)賽壓力下，依附于商業(yè)巨頭的非營利治理機(jī)制難以存續(xù)。

如今哈薩比斯轉(zhuǎn)變思路，核心主張是讓自己占據(jù)核心決策位置，憑借對(duì)AI風(fēng)險(xiǎn)的敬畏之心，在關(guān)鍵節(jié)點(diǎn)把控技術(shù)方向。

他一邊推進(jìn)Gemini等模型研發(fā)，一邊堅(jiān)守安全底線，試圖以個(gè)人影響力降低AI失控風(fēng)險(xiǎn)。

業(yè)內(nèi)分析認(rèn)為，這一轉(zhuǎn)變折射出全球AI競(jìng)賽的殘酷現(xiàn)狀，統(tǒng)一治理難以實(shí)現(xiàn)，AI安全窗口持續(xù)收窄，人類正面臨關(guān)乎文明存續(xù)的巨大挑戰(zhàn)。