全球知名在線游戲平臺Roblox近日宣布推出一項創(chuàng)新AI功能，通過實時改寫聊天中的不當(dāng)用語，進一步優(yōu)化用戶交流體驗。該系統(tǒng)旨在解決傳統(tǒng)內(nèi)容過濾機制導(dǎo)致的對話斷裂問題，同時引導(dǎo)玩家形成更文明的互動習(xí)慣。

據(jù)平臺安全團隊介紹，此前采用的AI過濾系統(tǒng)會將違規(guī)內(nèi)容直接替換為星號符號（####），但這種處理方式常使對話語境變得支離破碎。新上線的智能改寫功能突破了這一局限，系統(tǒng)能自動識別不雅詞匯并轉(zhuǎn)換為符合社區(qū)規(guī)范的表達方式。例如當(dāng)用戶輸入"Hurry TF up"時，系統(tǒng)會將其優(yōu)化為"Hurry up!"，既保留了原意又避免了語言粗俗化。

首席安全官拉吉夫·巴蒂亞在官方博客中強調(diào)，該功能特別針對青少年用戶群體設(shè)計。在已啟用該功能的聊天場景中，所有參與者都會收到內(nèi)容修改提示，發(fā)送者更可查看具體被替換的詞匯。這種透明化處理機制既維護了交流的連貫性，又通過即時反饋幫助用戶理解社區(qū)規(guī)范。值得注意的是，系統(tǒng)雖能凈化語言環(huán)境，但對于持續(xù)惡意辱罵的行為仍將采取賬號處罰措施。

目前該功能已覆蓋Roblox翻譯系統(tǒng)支持的所有語言版本，但僅對完成年齡驗證且年齡相近的用戶組開放。平臺技術(shù)團隊表示，隨著機器學(xué)習(xí)模型的持續(xù)優(yōu)化，未來將逐步擴大應(yīng)用范圍，并增加對隱喻性侮辱等復(fù)雜語言模式的識別能力。這項改進被視為Roblox構(gòu)建健康數(shù)字社區(qū)的重要里程碑，標(biāo)志著內(nèi)容治理從被動過濾向主動引導(dǎo)的轉(zhuǎn)型。