聯邦學習
·
聯邦學習是一種新型的分布式學習框架，它允許在多個參與者之間共享訓練數據而不會泄露其數據隱私。但是這種新穎的學習機制仍然可能受到來自各種攻擊者的前所未有的安全和隱私威脅。本文主要探討聯邦學習在安全和隱私方面面臨的挑戰。首先，本文介紹了聯邦學習的基本概念和威脅模型，有助于理解其面臨的攻擊。其次，本文總結了由內部惡意實體發起的3種攻擊類型，同時分析了聯邦學習體系結構的安全漏洞和隱私漏洞。然后從差分隱私、同態密碼系統和安全多方聚合等方面研究了目前最先進的防御方案。最后通過對這些解決方案的總結和比較，進一步討論了該領域未來的發展方向。
付費5元查看完整內容
相關內容
在大數據時代下，深度學習、強化學習以及分布式學習等理論和技術取得的突破性進展，為機器學習提供了數據和算法層面的強有力支撐，同時促進了機器學習的規模化和產業化發展.然而，盡管機器學習模型在現實應用中有著出色的表現，但其本身仍然面臨著諸多的安全威脅.機器學習在數據層、模型層以及應用層面臨的安全和隱私威脅呈現出多樣性、隱蔽性和動態演化的特點.機器學習的安全和隱私問題吸引了學術界和工業界的廣泛關注，一大批學者分別從攻擊和防御的角度對模型的安全和隱私問題進行了深入的研究，并且提出了一系列的攻防方法. 在本綜述中，我們回顧了機器學習的安全和隱私問題，并對現有的研究工作進行了系統的總結和科學的歸納，同時明確了當前研究的優勢和不足. 最后，我們探討了機器學習模型安全與隱私保護研究當前所面臨的挑戰以及未來潛在的研究方向，旨在為后續學者進一步推動機器學習模型安全與隱私保護研究的發展和應用提供指導.
//www.jos.org.cn/jos/ch/reader/view_abstract.aspx?file_no=6131&flag=1
付費5元查看完整內容
數據孤島以及模型訓練和應用過程中的隱私泄露是當下阻礙人工智能技術發展的主要難題。聯邦學習作為一種高效的隱私保護手段應運而生。聯邦學習是一種分布式的機器學習方法，以在不直接獲取數據源的基礎上，通過參與方的本地訓練與參數傳遞，訓練出一個無損的學習模型。但聯邦學習中也存在較多的安全隱患。本文著重分析了聯邦學習中的投毒攻擊、對抗攻擊以及隱私泄露三種主要的安全威脅，針對性地總結了最新的防御措施，并提出了相應的解決思路。
付費5元查看完整內容
題目： 機器學習的隱私保護研究綜述
簡介：
大規模數據收集大幅提升了機器學習算法的性能,實現了經濟效益和社會效益的共贏,但也令個人隱私保護面臨更大的風險與挑戰．機器學習的訓練模式主要分為集中學習和聯邦學習２類,前者在模型訓練前需統一收集各方數據,盡管易于部署,卻存在極大數據隱私與安全隱患;后者實現了將各方數據保留在本地的同時進行模型訓練,但該方式目前正處于研究的起步階段,無論在技術還是部署中仍面臨諸多問題與挑戰．現有的隱私保護技術研究大致分為２條主線,即以同態加密和安全多方計算為代表的加密方法和以差分隱私為代表的擾動方法,二者各有利弊．為綜述當前機器學習的隱私問題,并對現有隱私保護研究工作進行梳理和總結,首先分別針對傳統機器學習和深度學習２類情況,探討集中學習下差分隱私保護的算法設計;之后概述聯邦學習中存的隱私問題及保護方法;最后總結目前隱私保護中面臨的主要挑戰,并著重指出隱私保護與模型可解釋性研究、數據透明之間的問題與聯系．
付費5元查看完整內容
題目： Threats to Federated Learning: A Survey
簡介：
隨著數據孤島的出現和隱私意識，訓練人工智能（AI）模型的傳統集中式方法面臨著嚴峻的挑戰。在這種新現實下，聯邦學習（FL）最近成為一種有效的解決方案。現有的FL協議設計已顯示出存在漏洞，系統內部和外部系統的攻擊者都可以利用這些漏洞來破壞數據隱私。因此，讓FL系統設計人員了解未來FL算法設計對隱私保護的意義至關重要。當前，沒有關于此主題的調查。在本文中，我們 彌合FL文學中的這一重要鴻溝。通過簡要介紹FL的概念以及涵蓋威脅模型和FL的兩種主要攻擊的獨特分類法：1）中毒攻擊 2）推理攻擊，本文提供了對該重要主題的易于理解的概述。我們重點介紹了各種攻擊所采用的關鍵技術以及基本假設，并討論了未來研究方向，以實現FL中更強大的隱私保護。
目錄：
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191