全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)(SAC/TC260)近日宣布成立人工智能安全標(biāo)準(zhǔn)工作組(WG9),此舉標(biāo)志著我國(guó)在人工智能安全標(biāo)準(zhǔn)制定領(lǐng)域進(jìn)入系統(tǒng)化推進(jìn)階段。來(lái)自成都的AI安全企業(yè)御之安科技有限公司憑借其在模型安全防護(hù)與網(wǎng)絡(luò)攻防領(lǐng)域的技術(shù)積淀,成為四川省唯一入選該工作組的成員單位,標(biāo)志著成都本土安全力量正式進(jìn)入國(guó)家級(jí)標(biāo)準(zhǔn)制定序列。
作為人工智能安全領(lǐng)域的核心標(biāo)準(zhǔn)化組織,WG9工作組承擔(dān)著三項(xiàng)核心任務(wù):梳理全球人工智能安全標(biāo)準(zhǔn)發(fā)展脈絡(luò)、構(gòu)建符合我國(guó)產(chǎn)業(yè)需求的安全標(biāo)準(zhǔn)框架、主導(dǎo)關(guān)鍵性技術(shù)標(biāo)準(zhǔn)的研制工作。御之安科技的加入不僅意味著其技術(shù)方案獲得國(guó)家級(jí)認(rèn)可,更將推動(dòng)成都地區(qū)在AI安全領(lǐng)域的創(chuàng)新實(shí)踐轉(zhuǎn)化為全國(guó)性行業(yè)標(biāo)準(zhǔn)。
據(jù)技術(shù)團(tuán)隊(duì)介紹,該企業(yè)在大模型安全評(píng)估、深度偽造檢測(cè)、數(shù)據(jù)隱私保護(hù)等前沿領(lǐng)域已形成完整解決方案,其研發(fā)的AI安全防護(hù)系統(tǒng)已服務(wù)超過(guò)200家政企客戶(hù)。此次入選后,企業(yè)將重點(diǎn)參與模型安全測(cè)試規(guī)范、安全開(kāi)發(fā)流程標(biāo)準(zhǔn)等子課題的研究,把成都團(tuán)隊(duì)在金融、醫(yī)療等場(chǎng)景的實(shí)戰(zhàn)經(jīng)驗(yàn)轉(zhuǎn)化為可復(fù)制的技術(shù)準(zhǔn)則。
值得關(guān)注的是,這是成都先進(jìn)制造企業(yè)繼參與人形機(jī)器人國(guó)家標(biāo)準(zhǔn)制定后,在人工智能領(lǐng)域取得的又一突破性進(jìn)展。企業(yè)負(fù)責(zé)人表示,將通過(guò)工作組平臺(tái)推動(dòng)"成都方案"上升為國(guó)家標(biāo)準(zhǔn),重點(diǎn)在模型魯棒性驗(yàn)證、算法可解釋性等維度貢獻(xiàn)技術(shù)力量,助力構(gòu)建覆蓋全產(chǎn)業(yè)鏈的安全標(biāo)準(zhǔn)體系。
目前,工作組已啟動(dòng)首批12項(xiàng)標(biāo)準(zhǔn)課題的研究工作,預(yù)計(jì)將在2025年前形成覆蓋基礎(chǔ)安全、數(shù)據(jù)安全、應(yīng)用安全等維度的標(biāo)準(zhǔn)框架。御之安科技技術(shù)總監(jiān)透露,企業(yè)正聯(lián)合電子科技大學(xué)組建聯(lián)合實(shí)驗(yàn)室,針對(duì)大模型安全測(cè)評(píng)、對(duì)抗樣本防御等方向開(kāi)展前瞻性研究,相關(guān)成果將直接應(yīng)用于國(guó)家標(biāo)準(zhǔn)制定。











