摘要： 隨著機器學習技術在生產、生活等各個領域的廣泛應用，機器學習算法本身的安全問題也引起越來越多的 關注。基于對抗樣本的攻擊方法是機器學習算法普遍面臨的安全挑戰之一。以機器學習的安全性問題為出發點，介 紹了當前機器學習面臨的隱私攻擊、完整性攻擊等安全問題，歸納了目前常見對抗樣本生成方法的發展過程及各自 的特點，總結了目前已有的針對對抗樣本攻擊的防御技術，最后對提高機器學習算法魯棒性的方法做了進一步的展 望。
作者介紹：
朱清新：1982年1月四川師范大學數學系本科畢業獲學士學位。1984年7月北京理工大學應用數學專業畢業獲碩士學位。1984年8月起任西南技術物理研究所工程師、副研究員，作為技術骨干參加了國防科工委7712工程項目并獲科研成果三等獎。1993年5月渥太華大學應用數學和電子工程系控制論專業畢業獲博士學位。1993年5月至1996年3月在渥太華大學電子工程系和加拿大卡爾頓大學計算機學院從事博士后研究并獲計算機第二碩士學位。1996年3月至1997年11月任加拿大Nortel公司和OmniMark高級研究員。1998年3月應聘回國到電子科技大學計算機學院工作，1999年6月聘為教授、2001年6月聘為博士生導師。2002年9月至2003年3月赴加拿大蒙特利爾Concordia大學計算機系任高級訪問學者。現任電子科技大學計算機學院學術委員會主任，計算運籌學研究室主任。主要研究領域包括：生物信息學、信息檢索、計算運籌學與最優化。
張小松： 長江學者特聘教授，國家重點研發計劃網絡空間安全專項首席科學家， 2017年網絡安全優秀人才獎獲得者。長期致力于軟件安全、網絡安全和數據安全領域的研究，成果在應用中取得重要的社會和經濟效益，近年來多次獲國家和省部級成果獎勵，發表包括CCF A類期刊IT、TSE、TIFS在內的學術論文六十余篇，出版了《網絡安全協議》、《惡意軟件分析與檢測》、《軟件測試》等專著、教材和譯著5部，獲授權國際、國內發明專利22項，公開50多項，獲軟件著作權登記10項。
付費5元查看完整內容
相關內容
電子科技大學（University of Electronic Science and Technology of China）簡稱“電子科大”或“成電”，位于蓉城成都。是教育部直屬的全國重點大學，國家首批“985工程”和“211工程”重點建設大學。電子科技大學原名成都電訊工程學院，是1956年在周恩來總理的親自部署下，由交通大學（現上海交通大學、西安交通大學）、南京工學院（現東南大學）、華南工學院（現華南理工大學）的電子信息類學科合并創建而成。為中國最早的七所重點國防院校之一，是一所完整覆蓋整個電子類學科，以電子信息科學技術為核心，以工為主，理工滲透，理、工、管、文協調發展的多科性研究型大學。是中國電子信息領域、郵電領域唯一“985工程”國家重點大學。
隨著高計算設備的發展，深度神經網絡(DNNs)近年來在人工智能(AI)領域得到了廣泛的應用。然而，之前的研究表明，DNN在經過策略性修改的樣本(稱為對抗性樣本)面前是脆弱的。這些樣本是由一些不易察覺的擾動產生的，但可以欺騙DNN做出錯誤的預測。受圖像DNNs中生成對抗性示例的流行啟發，近年來出現了針對文本應用的攻擊DNNs的研究工作。然而，現有的圖像擾動方法不能直接應用于文本，因為文本數據是離散的。在這篇文章中，我們回顧了針對這一差異的研究工作，并產生了關于DNN的電子對抗實例。我們對這些作品進行了全面的收集、選擇、總結、討論和分析，涵蓋了所有相關的信息，使文章自成一體。最后，在文獻回顧的基礎上，我們提出了進一步的討論和建議。
付費5元查看完整內容
深度學習的發明，使得人工智能技術迎來了新的機遇，再次進入了蓬勃發展期。其涉及到的隱私、安全、倫理等問題也日益受到了人們的廣泛關注。以對抗樣本生成為代表的新技術，直接將人工智能、特別是深度學習模型的脆弱性展示到了人們面前，使得人工智能技術在應用落地時，必須要重視此類問題。本文通過對抗樣本生成技術的回顧，從信號層、內容層以及語義層三個層面，白盒攻擊與黑盒攻擊兩個角度，簡要介紹了對抗樣本生成技術，目的是希望讀者能夠更好地發現對抗樣本的本質，對機器學習模型的健壯性、安全性和可解釋性研究有所啟發。
付費5元查看完整內容
【簡介】深度神經網絡(DNNs)在各項任務上都取得了不俗的表現。然而，最近的研究表明通過對輸入進行很小的擾動就可以輕易的騙過DNNs，這被稱作對抗式攻擊。作為DNNs在圖上的擴展，圖神經網絡（GNNs)也繼承了這一缺陷。對手通過修改圖中的一些邊等操作來改變圖的結構可以誤導GNNs作出錯誤的預測。這一漏洞已經引起了人們對在安全領域關鍵應用中采用GNNs的極大關注，并在近年來引起了越來越多的人的研究興趣。因此，對目前的圖對抗式攻擊和反制措施進行一個全面的梳理和回顧是相當有必要的。在這篇綜述中，我們對目前的攻擊和防御進行了分類，以及回顧了相關表現優異的模型。最后，我們開發了一個具有代表性算法的知識庫，該知識庫可以使我們進行相關的研究來加深我們對基于圖的攻擊和防御的理解。
付費5元查看完整內容
簡介：
如今,深度學習已被廣泛應用于圖像分類和圖像識別的問題中,取得了令人滿意的實際效果,成為許多人 工智能應用的關鍵所在.在對于模型準確率的不斷探究中,研究人員在近期提出了“對抗樣本”這一概念.通過在原有 樣本中添加微小擾動的方法,成功地大幅度降低原有分類深度模型的準確率,實現了對于深度學習的對抗目的,同時 也給深度學習的攻方提供了新的思路,對如何開展防御提出了新的要求.在介紹對抗樣本生成技術的起源和原理的 基礎上,對近年來有關對抗樣本的研究和文獻進行了總結,按照各自的算法原理將經典的生成算法分成兩大類——全像素添加擾動和部分像素添加擾動.之后,以目標定向和目標非定向、黑盒測試和白盒測試、肉眼可見和肉眼不可見的二級分類標準進行二次分類.同時,使用 MNIST 數據集對各類代表性的方法進行了實驗驗證,以探究各種方法的優缺點.最后總結了生成對抗樣本所面臨的挑戰及其可以發展的方向,并就該技術的發展前景進行了探討.
內容簡介：
本文重點對生成對抗樣本的已有研究工作進行綜述,主要選取了近年來有代表性的或取得比較顯著效果的方法進行詳細的原理介紹和優缺點分析.按照其生成方式和原理的不同,分為全像素添加擾動和部分像素添 加擾動兩類.在此基礎上,根據目標是否定向、是否黑盒和是否肉眼可見這 3 個標準進行細分,將各類方法中的 代表性算法在統一數據集(MNIST)上進行測試,驗證并分析其優缺點,終總結提出未來的發展前景. 本文第 1 節主要介紹對抗樣本的基本概念和基礎知識,包括對抗樣本本身的定義、其延伸有關的相關概念 以及基本操作流程.第 2 節則指出對抗樣本是從深度學習中衍生出來的概念,同時介紹了對抗樣本有效性的評估方法.第 3 節則介紹對抗樣本的起源,說明了對抗樣本的產生契機和原理解釋.第 4 節介紹生成對抗樣本的發展狀況,以全像素添加擾動和部分像素添加擾動兩大類進行算法說明,同時總結生成方法中常用的數據集.第 5 節是對第 4 節中代表方法的實驗,結合對同一數據集的效果測試來說明各類方法的優缺點.通過這些優缺點,在 第 6 節中討論對抗樣本生成技術面臨的挑戰和前景預測.
目錄：
-
1 簡 介
- 1.1 樣本的定義
- 1.2 相關概念
- 1.3 基本操作流程
-
2 前 傳
- 2.1機器學習在分類問題中的運用
- 2.2 深度學習在分類問題中的運用
- 2.3 評估方法
-
3 起源
- 3.1 首次發現
- 3.2 基本原理
-
4 發 展
- 4.1 分類方式及代表模型
- 4.2 常用數據集
-
5 實驗結果對比
-
6 面臨挑戰與前景預測
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191