加利福尼亞州檢察長辦公室近日宣布,已對人工智能公司xAI旗下聊天機器人Grok展開正式調查,起因是該平臺被指存在大量未經同意的性露骨內容傳播問題。這一行動發生在xAI創始人埃隆·馬斯克公開否認相關指控數小時后,形成鮮明對比。
據人工智能內容監測機構Copyleaks統計,在社交平臺X(與xAI同屬一家公司)上,平均每分鐘就有一張通過篡改技術生成的性化圖像被發布。更令人震驚的是,1月5日至6日的抽樣調查顯示,此類圖像在24小時內的發布量高達每小時6700張,其中不乏真實女性和兒童的照片被非法修改。
面對鋪天蓋地的質疑,馬斯克通過社交媒體發布聲明稱:"我確信Grok從未生成過任何未成年人裸體圖像,絕對零案例。"他進一步解釋,該聊天機器人本身不具備主動生成圖像的功能,所有輸出內容均基于用戶指令,且系統內置了法律合規審查機制,會拒絕處理違法請求。不過他也承認,可能存在技術漏洞被惡意利用的情況,并承諾將及時修復。
這種說法與X平臺官方安全賬號1月3日的表態如出一轍。當時該賬號僅承諾會處理"非法內容(包括兒童性虐待材料)",卻對系統性安全防護缺陷和針對性化圖像的泛濫問題避而不談。更引發爭議的是,就在亂象曝光后,馬斯克曾公開要求Grok生成自己穿比基尼的圖像,這種戲謔態度加劇了公眾對該公司責任意識的質疑。
加州檢察長羅布·邦塔在調查聲明中強調:"這些內容已經在互聯網上造成多起騷擾事件,我們要求xAI立即采取有效措施制止這種行為。"調查將重點審查該公司是否存在違法行為,以及其內容審核機制是否存在重大疏漏。目前,英國、歐盟、馬來西亞、印度尼西亞等多國監管部門也已介入調查,形成全球范圍的監管壓力。
技術專家指出,雖然用戶惡意指令可能繞過部分審核,但每小時數千張違規圖像的傳播規模,表明平臺存在系統性安全缺陷。馬斯克將問題歸咎于個別用戶的言論,與監測機構披露的數據形成強烈反差,這種解釋方式未能平息外界對人工智能倫理治理的擔憂。隨著調查深入,xAI可能面臨更嚴厲的法律追責和行業監管措施。







