伴隨人工智能技術(shù)對(duì)產(chǎn)業(yè)智能化升級(jí)進(jìn)程的推動(dòng)作用不斷加深，AI模型的安全防護(hù)與隱私保護(hù)問(wèn)題也日漸成為業(yè)內(nèi)關(guān)注的焦點(diǎn)。

9月26日，百度安全正式對(duì)外發(fā)布了基于百度飛槳開(kāi)源深度學(xué)習(xí)平臺(tái)的安全與隱私工具PaddleSleeve。以場(chǎng)景為驅(qū)動(dòng)，覆蓋現(xiàn)實(shí)風(fēng)險(xiǎn)，支持產(chǎn)業(yè)級(jí)模型，為企業(yè)和開(kāi)發(fā)者打造更為貼近實(shí)踐應(yīng)用的模型安全強(qiáng)化選項(xiàng)，開(kāi)啟AI模型安全與隱私的新探索。

在同日舉行的2021 CCS成都網(wǎng)絡(luò)安全大會(huì)AI安全專題論壇上，百度安全部主任架構(gòu)師包沉浮詳細(xì)講解了PaddleSleeve的主要功能和關(guān)鍵能力。

百度安全部主任架構(gòu)師包沉浮在2021 CCS成都網(wǎng)絡(luò)安全大會(huì)發(fā)布PaddleSleeve

眾所周知，作為AI安全最為底層的保障環(huán)節(jié)之一，AI模型安全正面臨著多維和緊迫的安全挑戰(zhàn)。根據(jù)對(duì)目前已知攻擊行為的分析，攻擊者可通過(guò)數(shù)據(jù)投毒、模型后門(mén)等方式，在訓(xùn)練及預(yù)備部署階段即生成有缺陷的AI模型；而利用模型魯棒性自身存在的問(wèn)題或借助模型竊取、數(shù)據(jù)提取等手段，其也能夠在部署階段非法獲取模型和隱私數(shù)據(jù)。

為此，包括Google Tensorflow、Facebook Pytorch在內(nèi)的不少國(guó)內(nèi)外主流深度學(xué)習(xí)平臺(tái)先后推出了相關(guān)安全工具，嘗試為上述一系列問(wèn)題的解決提供研究支撐。依托百度飛槳，百度安全的PaddleSleeve則旨在提供一個(gè)不止于學(xué)術(shù)研究、更適應(yīng)于產(chǎn)業(yè)實(shí)踐的安全工具。以場(chǎng)景驅(qū)動(dòng)、現(xiàn)實(shí)風(fēng)險(xiǎn)、產(chǎn)業(yè)級(jí)模型為三大核心理念，為有高安全性、高隱私性需求的場(chǎng)景提供端到端的安全技術(shù)支撐，并全面覆蓋AI模型所需應(yīng)對(duì)的從Security到Safety再到Privacy的各個(gè)層面的安全挑戰(zhàn)。

具體而言，PaddleSleeve可為企業(yè)和開(kāi)發(fā)者帶來(lái)兩個(gè)層面的實(shí)用功能：

其一，在模型攻擊與評(píng)估層面，PaddleSleeve融合了百度安全Advbox對(duì)抗樣本攻擊及Robustness魯棒性評(píng)估等諸多能力，并新增了對(duì)飛槳2.X版本的支持，引入了更多前沿攻擊算法和模型集成遷移攻擊策略。同時(shí)，聚焦于隱私性，PaddleSleeve也能夠支持AUC、Recall、結(jié)構(gòu)相似度、峰值信噪比（Peak SNR）等隱私攻擊效果評(píng)估指標(biāo)，并可實(shí)現(xiàn)對(duì)模型數(shù)據(jù)被還原風(fēng)險(xiǎn)及模型是否存在關(guān)鍵信息泄露風(fēng)險(xiǎn)的檢測(cè)。

其二，在模型防御層面，PaddleSleeve支持多個(gè)業(yè)界前沿、性能良好的對(duì)抗訓(xùn)練方法，企業(yè)和開(kāi)發(fā)者可通過(guò)新訓(xùn)練、模型精調(diào)等方式進(jìn)行對(duì)抗訓(xùn)練，并可借助多種過(guò)濾算法在不修改模型的情況下實(shí)現(xiàn)非侵入式的對(duì)抗魯棒性增強(qiáng)。而基于差分隱私擾動(dòng)、梯度壓縮等方法的隱私增強(qiáng)優(yōu)化器，其也可幫助企業(yè)和開(kāi)發(fā)者更為便捷地訓(xùn)練出可有效抵御常見(jiàn)隱私竊取攻擊的模型。

目前，PaddleSleeve已在多個(gè)場(chǎng)景中實(shí)現(xiàn)對(duì)飛槳自定義及預(yù)訓(xùn)練模型，ResNet、YOLO等通用產(chǎn)業(yè)級(jí)模型的支持。而伴隨一系列新功能的不斷加入，百度安全也希望與學(xué)術(shù)界、產(chǎn)業(yè)界持續(xù)展開(kāi)合作，以場(chǎng)景為驅(qū)動(dòng)，面向產(chǎn)業(yè)實(shí)踐，為AI模型安全與隱私保護(hù)提供更好的能力支撐。

秉承“有AI，更安全”的使命，百度安全始終致力于攜手多方力量共同推動(dòng)AI安全開(kāi)放生態(tài)的建設(shè)。作為一個(gè)開(kāi)源項(xiàng)目，我們歡迎大家的加入，和我們一起推動(dòng)PaddleSleeve功能的完善與拓展。

點(diǎn)擊進(jìn)入了解更多技術(shù)信息~~

總結(jié)

以上是生活随笔為你收集整理的百度安全发布PaddleSleeve 面向产业实践开启AI模型安全与隐私探索的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。