近日，網絡安全公司 SentinelOne 與 Censys 聯合發(fā)布的一項深度研究揭示了開源大語言模型面臨的嚴峻安全挑戰(zhàn)。 研究指出，當這些模型脫離主流托管平臺的“護欄”與安全限制，在外部私有計算機上獨立運行時，極易淪為黑客與犯罪分子的攻擊目標，產生嚴重的安全風險。
這項耗時近 300 天的研究發(fā)現，目前互聯網上存在數千個缺乏保護的開源 AI 運行實例，其中包含大量基于 meta 的 Llama 和谷歌的 Gemma 等主流模型開發(fā)的衍生版本。 盡管部分開源模型原生自帶安全防線，但研究人員仍發(fā)現了數百起安全護欄被惡意移除的情況。
安全專家將這一現象形容為行業(yè)視野外的“冰山”：開源算力在支持合法用途的同時，正被明顯用于犯罪活動。 攻擊者可以通過劫持這些運行實例，強制模型生成大量垃圾信息、編寫精準的釣魚郵件，甚至發(fā)動大規(guī)模的虛假信息宣傳。
研究團隊重點分析了通過 Ollama 工具部署的開源實例。 令人擔憂的是，在約 25% 的觀察對象中，黑客可以直接讀取模型的“系統提示詞”——即決定模型行為的核心底層指令。 進一步分析顯示，其中 7.5% 的指令已被修改，旨在為有害行為提供技術支持。
這種風險場景波及范圍極廣，包括但不限于仇恨言論傳播、暴力內容生成、個人隱私數據竊取、金融詐騙，甚至是涉及兒童安全的內容。 由于這些模型繞開了大型平臺的監(jiān)控機制，傳統的安全防護手段往往難以奏效。
