在線游戲平臺Roblox近日上線了一項創新性的AI功能，旨在優化用戶聊天環境。該功能能夠實時識別并改寫聊天中的不當語言，替代以往簡單屏蔽的粗暴處理方式。據平臺安全團隊介紹，新系統通過語義分析技術將違規詞匯自動轉換為符合社區規范的表達，既保持對話連貫性，又維護了平臺交流秩序。
此前平臺采用的AI過濾機制會將違規內容替換為連續井號（####），這種處理方式雖然阻斷了不良信息傳播，但經常導致對話邏輯斷裂。Roblox首席安全官拉吉夫·巴蒂亞指出，新系統特別針對青少年用戶常用的變體粗口進行優化，例如將"Hurry TF up"這類變形表達自動修正為標準用語"Hurry up!"。系統改寫時會向所有聊天參與者顯示提示標識，發送者還能查看具體修改的詞匯內容。
平臺規則明確表示，AI改寫功能不會成為違規行為的"免罪金牌"。對于持續使用侮辱性語言或惡意騷擾他人的用戶，系統仍會依據社區準則采取警告、禁言等處罰措施。巴蒂亞在技術說明中強調，這種實時反饋機制有助于引導用戶逐步適應平臺交流規范，特別是幫助青少年玩家培養文明用語習慣。
目前該功能已面向完成年齡驗證的用戶群體開放，優先應用于年齡相近玩家之間的對話場景。技術團隊特別優化了多語言支持能力，確保包括中文在內的20余種平臺常用語言都能獲得精準的內容改寫服務。據開發人員透露，系統正在持續學習新的語言變體和表達方式，未來將擴展至更多交流場景。
