谷歌公司近日披露，其旗下AI聊天機器人Gemini正面臨一場大規模的“蒸餾攻擊”威脅。攻擊者通過高頻次、重復性的提問，試圖解析該模型的輸出邏輯與內部機制，甚至企圖“克隆”其核心技術或強化自身AI系統。據谷歌統計，僅某一場攻擊活動中，Gemini就遭遇了超過10萬次惡意提示。
霍特奎斯特將谷歌的處境比作“煤礦里的金絲雀”，暗示大型AI平臺遭遇的攻擊可能預示著整個行業面臨更廣泛的風險。他特別提到，隨著企業定制化大語言模型（LLM）的普及，蒸餾攻擊的危害將進一步擴大。例如，若某企業的LLM學習了其百年交易策略，攻擊者可能通過逐步提問提取這些敏感商業機密。
谷歌強調，蒸餾攻擊本質上屬于知識產權盜竊行為?？萍脊緸殚_發AI聊天機器人投入了數十億美元，其核心模型的內部機制被視為高度保密的專有資產。盡管主流AI服務提供商已部署防御機制，但由于模型需向公眾開放使用，仍難以完全規避此類風險。
據谷歌披露，多數攻擊目標集中在Gemini的“推理”算法——即模型處理信息并做出決策的機制。分析人士警告，隨著定制化LLM在金融、醫療等領域的廣泛應用，攻擊者可能通過蒸餾手段獲取用戶隱私數據或商業策略，引發更嚴重的安全危機。
