阿里巴巴近日宣布推出全球首個企業(yè)級AI原生工作平臺“悟空”，旨在為企業(yè)提供更安全、高效的AI應用解決方案。然而，隨著AI技術的廣泛應用，企業(yè)數(shù)據(jù)安全問題也日益凸顯。釘釘CEO在發(fā)布會上特別強調，當前企業(yè)在引入AI工具時，面臨“權限脆弱”、“越權執(zhí)行”、“數(shù)據(jù)泄露”和“惡意技能”四大核心風險。
他以具體案例說明問題的嚴重性：某企業(yè)員工在內部3000人大群中訓練AI“養(yǎng)龍蝦”，結果該AI意外泄露了公司機密信息，包括IP地址、真實姓名、企業(yè)名稱甚至全年營收數(shù)據(jù)。無獨有偶，meta公司安全總監(jiān)的電腦曾遭攻擊，200余封重要郵件被批量刪除，造成難以估量的損失。更令人震驚的是，目前有超過39萬個claw站點資產處于無保護狀態(tài)，企業(yè)數(shù)據(jù)完全暴露在風險之中。
釘釘負責人陳航對此表達強烈擔憂。他指出，部分企業(yè)盲目追求AI技術應用，卻忽視了基礎安全防護。“將未經(jīng)管控的超級智能體隨意部署，相當于給每臺電腦開后門，導致中木馬、病毒的風險激增。”他形象地比喻道，“這種行為就像把猛獸放出籠子，當企業(yè)失去對AI的控制權時，終將被技術反噬。”
針對這些隱患，“悟空”平臺特別設計了沙箱運行機制和分級權限管理系統(tǒng)。通過將AI操作隔離在安全環(huán)境中執(zhí)行，并嚴格限制數(shù)據(jù)訪問權限，該平臺可有效防止越權行為和數(shù)據(jù)泄露。阿里巴巴表示，未來將持續(xù)完善安全防護體系，幫助企業(yè)在享受AI紅利的同時，筑牢數(shù)據(jù)安全防線。
