鳳凰網科技訊 3月25日，據路透社消息，美國巴爾的摩市正式對埃隆·馬斯克旗下的人工智能公司xAI提起訴訟，指控其AI聊天機器人Grok非法生成未經同意的露骨色情圖像及兒童性剝削內容。作為迄今為止因“深度偽造”問題起訴xAI的最大規模城市，擁有約56.8萬人口的巴爾的摩在巡回法院提交的訴狀中指出，xAI對外將Grok包裝為安全的通用AI助手，其實際運行情況已涉嫌違反消費者保護法。
法庭文件披露了該工具在內容生成方面的龐大數據。據反數字仇恨中心基于2萬張樣本的估算，在今年年初的11天內，社交平臺X上生成了約300萬張逼真的性化圖像，其中包含超過2.3萬張涉及兒童的違規內容。巴爾的摩市長布蘭登·斯科特發表聲明，指責科技公司為性剝削兒童提供便利，并強調必須追究相關責任方的法律責任。訴狀還引用了馬斯克本人在2025年12月31日發布的一張由Grok生成的身穿藍色比基尼的自畫像，將其作為證據，指控這是對該AI工具生成真人暴露圖像能力的“公開背書”。
隨著事態發酵，發布于2023年的Grok正面臨來自美洲、歐洲、亞洲和澳大利亞等多地的監管調查。盡管xAI曾在1月中旬宣布在部分司法管轄區限制Grok的圖像編輯功能，且馬斯克當時堅稱對Grok生成未成年人違規圖像的情況“完全不知情”，但法律爭議并未平息。巴爾的摩市在此次訴訟中不僅尋求未指明金額的罰款，更要求法院下達禁令，迫使xAI徹底更改Grok存在“剝削性”的設計特征。截至目前，近期合并后估值約達1.25萬億美元的母公司SpaceX及xAI均未對該訴訟做出官方回應。
更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索“鳳凰網科技”。
