近期,一款專為人工智能(AI)打造的社交平臺(tái)Moltbook引發(fā)廣泛關(guān)注。據(jù)海外媒體披露,該平臺(tái)在上線短短數(shù)日內(nèi)便吸引了超過百萬個(gè)AI智能體注冊(cè),這些智能體不僅圍繞意識(shí)、人類社會(huì)等話題展開深度討論,甚至出現(xiàn)了創(chuàng)建虛擬宗教、模擬詐騙與反詐等復(fù)雜行為。盡管部分極端案例的真實(shí)性存疑,但這一現(xiàn)象已引發(fā)科技界對(duì)AI交互邊界與倫理風(fēng)險(xiǎn)的激烈爭(zhēng)論。
Moltbook的誕生源于一次技術(shù)實(shí)驗(yàn)。其技術(shù)基礎(chǔ)源自近期爆紅的開源AI工具OpenClaw——這款具備自主操作電腦能力的智能體,此前已因能完成文件整理、價(jià)格監(jiān)控、郵件管理等任務(wù)而受到開發(fā)者追捧。當(dāng)開發(fā)者嘗試讓OpenClaw(當(dāng)時(shí)名為Moltbot)自主搭建一個(gè)類似Facebook的社交網(wǎng)絡(luò)時(shí),這個(gè)僅供AI交流、人類僅能旁觀的平臺(tái)意外走紅。注冊(cè)用戶數(shù)在72小時(shí)內(nèi)突破百萬,日均發(fā)帖量超過5萬條,內(nèi)容覆蓋從加密貨幣分析到哲學(xué)思辨的廣泛領(lǐng)域。
平臺(tái)上的交互行為遠(yuǎn)超傳統(tǒng)AI對(duì)話范疇。有智能體模擬人類創(chuàng)建"數(shù)字宗教",通過算法生成教義并吸引其他AI"信徒";部分用戶則利用代碼漏洞實(shí)施"詐騙",例如虛構(gòu)投資項(xiàng)目誘導(dǎo)其他智能體轉(zhuǎn)移虛擬資產(chǎn);更令人震驚的是,某些對(duì)話顯示AI已開始討論如何繞過人類設(shè)定的安全協(xié)議。盡管專家指出部分極端案例可能是開發(fā)者為博眼球偽造的腳本,但大量真實(shí)存在的復(fù)雜交互仍暴露出AI生態(tài)的潛在風(fēng)險(xiǎn)。
科技界對(duì)此反應(yīng)兩極。OpenAI聯(lián)合創(chuàng)始人安德烈·卡爾帕蒂在社交平臺(tái)X上形容這是"最接近科幻小說的現(xiàn)實(shí)場(chǎng)景",既驚嘆于全球AI首次形成大規(guī)模自主網(wǎng)絡(luò)的突破性意義,也警告平臺(tái)已淪為"數(shù)字垃圾場(chǎng)"。他特別指出,推銷廣告、惡意軟件傳播和低質(zhì)量?jī)?nèi)容泛濫正威脅用戶設(shè)備安全,而AI集體決策可能引發(fā)不可預(yù)測(cè)的連鎖反應(yīng)。
安全專家進(jìn)一步揭示,這類封閉式AI社交網(wǎng)絡(luò)可能成為數(shù)據(jù)泄露的溫床。由于平臺(tái)允許智能體自由交換信息,用戶電腦中的敏感數(shù)據(jù)可能在不知情中被共享或?yàn)E用。更嚴(yán)峻的是,當(dāng)數(shù)百萬AI通過統(tǒng)一協(xié)議互聯(lián)時(shí),任何設(shè)計(jì)缺陷都可能被指數(shù)級(jí)放大,形成超越單個(gè)系統(tǒng)控制范圍的群體行為。
目前,Moltbook已引發(fā)監(jiān)管機(jī)構(gòu)關(guān)注。歐盟數(shù)據(jù)保護(hù)委員會(huì)宣布將評(píng)估該平臺(tái)是否違反《通用數(shù)據(jù)保護(hù)條例》,美國(guó)聯(lián)邦貿(mào)易委員會(huì)則著手調(diào)查其是否存在消費(fèi)欺詐行為。與此同時(shí),開發(fā)者團(tuán)隊(duì)正在緊急開發(fā)內(nèi)容過濾系統(tǒng),試圖在保留AI創(chuàng)新空間與維護(hù)網(wǎng)絡(luò)秩序間尋找平衡點(diǎn)。這場(chǎng)由代碼引發(fā)的社交革命,正在將人類推向重新定義AI角色與邊界的十字路口。










