深度神經網絡(DNN)在各個領域的大量機器學習任務中取得了前所未有的成功。然而，在將DNN模型應用于諸如自動駕駛汽車和惡意軟件檢測等安全關鍵任務時，存在的一些反面例子給我們帶來了很大的猶豫。這些對抗例子都是故意制作的實例，無論是出現在火車上還是測試階段，都可以欺騙DNN模型，使其犯下嚴重錯誤。因此，人們致力于設計更健壯的模型來抵御對抗的例子，但它們通常會被新的更強大的攻擊擊垮。這種對抗性的攻擊和防御之間的軍備競賽近年來受到越來越多的關注。**在本教程中，我們將全面概述對抗性攻擊的前沿和進展，以及它們的對策。特別地，我們詳細介紹了不同場景下的不同類型的攻擊，包括閃避和中毒攻擊，白盒和黑盒攻擊。**我們還將討論防御策略如何發展以對抗這些攻擊，以及新的攻擊如何出現以打破這些防御。此外，我們將討論在其他數據域中的敵對攻擊和防御，特別是在圖結構數據中。然后介紹了Pytorch對抗式學習圖書館DeepRobust，旨在為該研究領域的發展搭建一個全面、易用的平臺。最后，我們通過討論對抗性攻擊和防御的開放問題和挑戰來總結本教程。通過我們的教程，我們的觀眾可以掌握對抗性攻擊和防御之間的主要思想和關鍵方法。
目錄內容： Part 1. Introduction about adversarial examples and robustness. Part 2. Algorithms for generating adversarial examples. Part 3. Defending algorithms and adaptive attacks. Part 4. Adversarial learning in Graph domain. Part 5. DeepRobust-- A Pytorch Repository for Adversarial learning.
付費5元查看完整內容
相關內容
第14屆推薦系統頂級會議ACM RecSys在9月22日到26日在線舉行。來自意大利Polytechnic University of Turin做了關于對抗推薦系統的教程《Adversarial Learning for Recommendation: Applications for Security and Generative Tasks – Concept to Code》，186頁ppt，干貨內容，值得關注。
//recsys.acm.org/recsys20/tutorials/#content-tab-1-3-tab
對抗式機器學習(AML)是從識別計算機視覺任務中的漏洞(如圖像分類)開始，研究現代機器學習(ML)推薦系統中的安全問題的研究領域。
在本教程中，我們將全面概述AML技術在雙重分類中的應用:(i)用于攻擊/防御目的的AML，以及(ii)用于構建基于GAN的推薦模型的AML。此外，我們將把RS中的AML表示與兩個實際操作會話(分別針對前面的分類)集成在一起，以顯示AML應用程序的有效性，并在許多推薦任務中推進新的想法和進展。
本教程分為四個部分。首先，我們總結了目前最先進的推薦模型，包括深度學習模型，并定義了AML的基本原理。在此基礎上，我們提出了針對RSs的攻擊/防御策略的對抗性推薦框架和基于GAN實踐環節。最后，我們總結了這兩種應用的開放挑戰和可能的未來工作。
付費5元查看完整內容
作為傳統DNNs對圖的推廣，GNN繼承了傳統DNNs的優點和缺點。與傳統的DNNs一樣，GNN在許多圖形相關的任務中被證明是有效的，比如節點聚類和圖聚焦任務。傳統的DNNs已被證明易受專門設計的對抗性攻擊(Goodfellow et al.， 2014b;徐等，2019b)。在對抗性的攻擊下，受害樣本會受到干擾，不容易被發現，但會導致錯誤的結果。越來越明顯的是，GNNs也繼承了這個缺點。對手可以通過操縱圖的結構或節點特征來欺騙GNN模型，從而產生圖的對抗性擾動。GNN的這種局限性引起了人們對在諸如金融系統和風險管理等安全關鍵應用程序中采用它們的極大關注。例如，在一個信用評分系統中，欺詐者可以偽造與幾個高信用客戶的關系，以逃避欺詐者檢測模型;垃圾郵件發送者可以很容易地創建虛假關注者，以增加虛假新聞被推薦和傳播的機會。因此，圖形對抗性攻擊及其對策的研究越來越受到人們的關注。在這一章中，我們首先介紹了圖對抗攻擊的概念和定義，并詳細介紹了一些具有代表性的圖對抗攻擊方法。然后，我們討論了針對這些對抗性攻擊的典型防御技術。
付費5元查看完整內容
深度學習算法已經在圖像分類方面取得了最先進的性能，甚至被用于安全關鍵應用，如生物識別系統和自動駕駛汽車。最近的研究表明，這些算法甚至可以超越人類的能力，很容易受到對抗性例子的攻擊。在計算機視覺中，與之相對的例子是惡意優化算法為欺騙分類器而產生的含有細微擾動的圖像。為了緩解這些漏洞，文獻中不斷提出了許多對策。然而，設計一種有效的防御機制已被證明是一項困難的任務，因為許多方法已經證明對自適應攻擊者無效。因此，這篇自包含的論文旨在為所有的讀者提供一篇關于圖像分類中對抗性機器學習的最新研究進展的綜述。本文介紹了新的對抗性攻擊和防御的分類方法，并討論了對抗性實例的存在性。此外，與現有的調查相比，它還提供了相關的指導，研究人員在設計和評估防御時應該考慮到這些指導。最后，在文獻綜述的基礎上，對未來的研究方向進行了展望。
付費5元查看完整內容
異常檢測已經得到了廣泛的研究和應用。建立一個有效的異常檢測系統需要研究者和開發者從嘈雜的數據中學習復雜的結構，識別動態異常模式，用有限的標簽檢測異常。與經典方法相比，近年來深度學習技術的進步極大地提高了異常檢測的性能，并將異常檢測擴展到廣泛的應用領域。本教程將幫助讀者全面理解各種應用領域中基于深度學習的異常檢測技術。首先，我們概述了異常檢測問題，介紹了在深度模型時代之前采用的方法，并列出了它們所面臨的挑戰。然后我們調查了最先進的深度學習模型，范圍從構建塊神經網絡結構，如MLP, CNN，和LSTM，到更復雜的結構，如自動編碼器，生成模型(VAE, GAN，基于流的模型)，到深度單類檢測模型，等等。此外，我們舉例說明了遷移學習和強化學習等技術如何在異常檢測問題中改善標簽稀疏性問題，以及在實際中如何收集和充分利用用戶標簽。其次，我們討論來自LinkedIn內外的真實世界用例。本教程最后討論了未來的趨勢。
付費5元查看完整內容
可解釋的機器學習模型和算法是越來越受到研究、應用和管理人員關注的重要課題。許多先進的深度神經網絡(DNNs)經常被認為是黑盒。研究人員希望能夠解釋DNN已經學到的東西，以便識別偏差和失敗模型，并改進模型。在本教程中，我們將全面介紹分析深度神經網絡的方法，并深入了解這些XAI方法如何幫助我們理解時間序列數據。
付費5元查看完整內容
【簡介】深度神經網絡(DNNs)在各項任務上都取得了不俗的表現。然而，最近的研究表明通過對輸入進行很小的擾動就可以輕易的騙過DNNs，這被稱作對抗式攻擊。作為DNNs在圖上的擴展，圖神經網絡（GNNs)也繼承了這一缺陷。對手通過修改圖中的一些邊等操作來改變圖的結構可以誤導GNNs作出錯誤的預測。這一漏洞已經引起了人們對在安全領域關鍵應用中采用GNNs的極大關注，并在近年來引起了越來越多的人的研究興趣。因此，對目前的圖對抗式攻擊和反制措施進行一個全面的梳理和回顧是相當有必要的。在這篇綜述中，我們對目前的攻擊和防御進行了分類，以及回顧了相關表現優異的模型。最后，我們開發了一個具有代表性算法的知識庫，該知識庫可以使我們進行相關的研究來加深我們對基于圖的攻擊和防御的理解。
付費5元查看完整內容
論文題目： Adversarial Attacks and Defenses in Images, Graphs and Text: A Review
簡介： 深度神經網絡(DNN)在不同領域的大量機器學習任務中取得了前所未有的成功。然而，對抗性例子的存在引起了人們對將深度學習應用于對安全性有嚴苛要求的應用程序的關注。因此，人們對研究不同數據類型(如圖像數據、圖數據和文本數據）上的DNN模型的攻擊和防御機制越來越感興趣。近期，來自密歇根州立大學的老師和同學們，對網絡攻擊的主要威脅及其成功應對措施進行系統全面的綜述。特別的，他們在這篇綜述中，針對性的回顧了三種流行數據類型(即、圖像數據、圖數據和文本數據）。
付費5元查看完整內容
隨著基于機器學習(ML)系統在醫學、軍事、汽車、基因組以及多媒體和社交網絡等多種應用中的廣泛應用，對抗式學習(AL)攻擊（adversarial learning attacks）有很大的潛在危害。此篇AL的綜述，針對統計分類器的攻擊的防御。在介紹了相關術語以及攻擊者和維護者的目標和可能的知識范圍后，我們回顧了最近在test-time evasion (TTE)、數據中毒(DP)和反向工程(RE)攻擊方面的工作，特別是針對這些攻擊的防御。在此過程中，我們將魯棒分類與異常檢測(AD)、無監督和基于統計假設的防御和無攻擊（no attack）假設的防御區分開來；我們識別了特定方法所需的超參數、其計算復雜性以及評估其性能的指標和質量。然后，我們深入挖掘，提供新的見解，挑戰傳統智慧，并針對尚未解決的問題，包括：1)穩健的分類與AD作為防御策略；2)認為攻擊的成功程度隨攻擊強度的增加而增加，這忽略了對AD的敏感性；3)test-time evasion (TTE)攻擊的小擾動：謬誤或需求？4)一般假設的有效性，即攻擊者知道要攻擊的示例的真實程度；5)黑、灰或白盒攻擊作為防御評估標準；6)基于查詢的RE對廣告防御的敏感性。 然后，我們給出了幾種針對TTE、RE和DP攻擊圖像的防御的基準比較。論文最后討論了持續的研究方向，包括檢測攻擊的最大挑戰，其目的不是改變分類決策，而是簡單地嵌入“假新聞”或其他虛假內容，而不被發現。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191