美國防部對抗性機器學習目標

1.對機器學習系統如何學習一項任務給出一個概述。 2.識別對手攻擊ML系統的三種方式。 3.識別防御者可能需要解決的九個問題，以防御一個ML系統。

本材料基于美國國防部根據與卡內基梅隆大學簽訂的合同編號 FA8702-15-D-0002 資助和支持的工作，以運營聯邦資助的研發中心軟件工程研究所。

本資料是基于國防部根據FA8702-15-D-0002號合同與卡內基梅隆大學合作的軟件工程研究所的運作而資助和支持的工作，這是一個聯邦資助的研究和開發中心。

科學和技術的進步越來越復雜和普遍。從智能手機到可穿戴健康監測器，再到用于游戲的虛擬現實頭盔，先進的技術正逐漸融入到日常生活中。但是，隨著科學技術越來越先進，我們在如何與新技術互動和使用這些技術在社會中如何發揮作用方面，也面臨著同樣復雜的倫理挑戰。無人駕駛汽車就是一個說明性的例子，它引發了一些倫理上的難題。例如，在無人駕駛汽車必須 "選擇 "撞上老人或小孩的情況下，哪種反應才是正確的？有沒有一個 "正確 "的反應？在這種情況下，人類司機會有正確的反應嗎？無人駕駛汽車是否應該轉彎以避免被駛來的卡車追尾，但這樣做會使一群過馬路的兒童面臨被卡車撞上的風險？ 這些問題的答案本來就不簡單。此外，不同的技術在不同的情況和背景下會帶來不同的倫理問題；事實上，新興技術的軍事用途會帶來一些獨特的倫理挑戰。

美國國防部高級研究計劃局幾十年來一直在資助軍事科技研究和開發，僅2015年的年度預算就達29億美元。盡管科技正在快速發展，為軍事問題穩步提供新興技術解決方案，但我們的監管政策卻滯后，導致我們對在戰場上使用特定技術的倫理、社會和法律后果的認識存在差距，這是許多人指出的問題。對軍隊來說，一些最深刻的倫理問題是由新興的人體強化技術和自主或機器人系統引起的。例如，一個強化的士兵是否會被視為比人類更多或更少的東西，從而受到對手的非人待遇？在海外戰區從國內操作無人駕駛飛行器（UAV）的士兵是否被認為是戰斗人員，因此在本土是公平的軍事目標？與民用技術一樣，新興技術的軍事用途所引起的許多倫理問題沒有明確的答案。無論如何，在一項新興技術被廣泛使用--民用或軍用--之前，開發者、利益相關者和政策制定者意識到與之相關的潛在倫理問題是至關重要的，這樣就可以通過修改技術或規范其使用的政策來緩解這些倫理問題。

確保潛在的倫理問題得到承認的方法之一是建立一個全面的框架，以方便識別在使用任何感興趣的特定技術時可能出現的倫理問題。有幾個現有的工具指導對新興技術的倫理評估，其中包括相關問題和考慮因素的清單。例如，Elin Palm和Sven Hansson提出了一個九項檢查清單，包括：信息的傳播和使用；控制、影響和權力；對社會接觸模式的影響；隱私；可持續性；人類生殖；性別、少數民族和正義；國際關系；以及對人類價值的影響。David Wright提出了一個框架，包括一些原則，在這些原則下列出了一些價值或問題，以及在評估過程中需要回答的問題：尊重自主權（自由權）；非惡意（避免傷害）；善意；正義；隱私和數據保護。Federica Lucivero、Tsjalling Swierstra和Marianne Boenink建議，倫理學家在考慮一項技術的合理性時應避免過多的猜測，而在考慮該技術將如何被社會看待并在社會中發揮作用時應使用更多的想象力。為了促進這一點，他們提出了三類考慮因素：技術可行性、社會可用性和技術的可取性。雖然這些倫理評估框架對確定與平民使用的新興技術相關的倫理問題很有用，但它們對評估軍事倫理是不夠的，因為軍事倫理有一些獨特的特點。

雖然軍事和民用倫理之間有一些共同的價值觀（例如，隱私和健康問題），但在新興技術的軍事使用方面也有特殊的考慮。例如，軍事行動必須遵守《武裝沖突法》(LOAC)，該法規定了戰爭手段并保護非戰斗人員和受沖突影響的平民。例如，加拿大武裝部隊（CAF）有一個《道德和價值觀準則》，其中規定了CAF成員必須遵守的價值觀，包括尊重加拿大法律和為加拿大服務高于自己，以及他們必須表現出的價值觀，如誠信和勇氣。

研究倫理原則對于確保包括士兵在內的人類研究對象在新技術的實驗測試階段得到道德對待至關重要。事實上，現代人類研究倫理原則是在軍事研究人員以研究名義進行的應受譴責的行為的歷史中產生的。當研究對象是軍人時，如果研究和軍事需要之間的界限變得模糊，就會出現挑戰，特別是在知情同意方面會出現復雜情況。但是，即使在設計和測試一項新技術時遵循了研究倫理原則，在使用該技術時仍可能出現倫理問題。有一些類似的倫理原則，如知情同意、隱私和保密性，在研究階段和隨后使用一項技術時都應考慮。

即使遵守了法律和法規，并考慮了其他倫理原則，如研究倫理原則，一項新技術仍不一定符合軍事用途的倫理，必須進一步考慮。例如，一項新技術是否會導致士兵之間的不平等，并導致部隊的凝聚力下降？如果一項新技術導致了意外的傷亡，誰來負責？一項技術是否會使士兵面臨被對手探測和攻擊的風險？ 在確定一項技術是否有任何軍事倫理問題時，有許多嚴重的問題需要反思。此外，還有人從反面考慮新技術和軍事倫理之間的關系，認為應該修改指導士兵行為的軍事倫理，以實現某些新興技術的潛在倫理優勢。

鑒于全面評估一項技術所需的軍事倫理考慮的數量，以及任何違反倫理的行為對戰斗的潛在嚴重性，迫切需要一個軍事專用的倫理評估工具。其他團體已經將各種倫理原則改編為討論倫理和軍事技術的框架。然而，據我們所知，還沒有一個實用的倫理評估工具，可以用來指導對軍隊感興趣的新興技術進行系統的倫理評估。

為了填補這一空白，我們創建了一個名為 "軍事倫理評估框架"（框架）的綜合框架，將相關社會、法律、研究和軍事倫理領域的廣泛考慮納入其中，以幫助用戶和決策者確定在軍事上使用人體強化技術可能產生的潛在倫理問題。盡管該框架的設計足夠廣泛，可用于對許多不同類型的新興技術進行倫理評估，但我們對該框架的初步測試側重于新興的人類增強技術，因為這些技術對軍隊有很大的意義，而且它們引起了許多倫理問題。未來的研究將檢驗該框架在識別軍隊可能感興趣的其他新興技術（如人工智能技術）所引起的倫理問題方面的效用。 本文的目的是介紹該框架，并通過展示它如何幫助識別與軍隊感興趣的兩種不同的人體增強技術有關的潛在倫理問題來說明該工具的使用。

該研究項目的目標是開發高效的大規模非線性優化算法，以解決通信和導航方面的數據分析問題。這些問題被公認為在數學上具有挑戰性，并與空軍的利益直接相關。

在資助期間，我們成功研究了兩個研究方向。首先，我們設計了大規模非線性優化問題的最佳一階方法。在這個方向上，我們提出了兩個一階方法，可以對決策變量進行近似梯度更新。這兩種方法都可以解決分散通信的多Agent優化所產生的非線性優化問題。通過將多代理優化重新表述為約束性問題，我們開發的方法可以以最佳梯度/操作者評估復雜度來解決問題。我們開發的方法也可用于解決圖像重建問題。

第二，我們分析了機器學習模型中的解決方案質量和安全問題。在這個方向上，我們完成了兩個研究結果。我們的第一個成果是關于在多集群環境下，從二元結果的條件邏輯回歸模型中計算出來的估計值的屬性。我們表明，當每個單獨的數據點被無限次復制時，來自該模型的條件最大似然估計值漸進地接近最大似然估計值。我們的第二個結果是關于安全的矩陣乘法問題，我們設計了一種準確和安全地進行分布式矩陣乘法的方法。我們的安全協議可以確保在進行這種矩陣乘法的通信過程中沒有任何信息被泄露。

兩名博士生作為研究生研究助理得到支持，并在執行期間接受培訓。擬議項目的成果包括四篇學術期刊論文。一篇論文已經發表，另一篇正在進行第二輪審查，另外兩篇正在準備，不久將提交發表。[1-3]

摘要

強化學習是一種為需要做出一系列決定的任務制定最佳策略的方法。以平衡短期和長期結果的方式做出決定的能力，使強化學習成為醫療機構中規劃治療的潛在強大工具。不幸的是，傳統的強化學習算法需要對環境進行隨機實驗，這在醫療衛生領域通常是不可能的。然而，強化學習提供了從觀察數據中評估策略的工具，這是一個被稱為離策略評估的子項目。

在這項工作中，我們討論了離策略評估在應用于醫療數據時變得如此困難的主要挑戰，并設計了一些算法來改進目前執行離策略評估的方法。我們描述了幾種改進現有方法的準確性和統計能力的算法，最后介紹了一種新的方法，通過開發一種將專家臨床醫生及其知識納入評價過程的評價技術來提高離策略評估方法的可靠性。

簡介

強化學習(RL)是機器學習(ML)中的一個子領域，它為學習需要平衡短期和長期結果的任務中的連續決策策略提供了一個框架。RL的關鍵范式是將學習算法視為一個與環境互動的智能體，采取行動并觀察環境對這些行動的變化。通過與環境的不斷互動和實驗，智能體學會了實現預期目標的最佳策略。這個強大的想法促進了RL算法在廣泛的應用中的成功，如游戲和機器人。

然而，在這些應用中，與環境的隨機互動--使RL如此強大的關鍵特性--是不可能的。例如，在醫療保健中，隨機治療病人并觀察其反應是不道德的。

從批量觀察數據中評估RL決策的任務被稱為離策略評估（OPE），這個術語用來表示用于收集數據的策略與我們希望評估的策略不同。OPE只關注評估一個特定的策略，而不是學習一個最優的onc，這是大多數RL應用的目標。

這項工作的動力來自于這樣的認識：盡管在OPE方面取得了重大的理論突破，但目前的方法仍然遠遠不夠可靠，無法證明其在實際應用中的使用和部署。這些限制在醫療保健領域尤為突出，因為那里的數據非常嘈雜，而且錯誤的代價很高。 我們首先強調了使OPE在觀察性醫療環境中如此困難的關鍵因素，并展示了這些算法可能失敗的主要方式。然后，我們描述了幾種改善OPE算法性能的方法。這些方法可以應用于所有RL領域，但我們在醫療數據中經常遇到的具體特征是其強大的動力。

雖然這項工作中所描述的方法有助于提高OPE方法的性能，但它們基本上都試圖從數據中提取出更多的統計能力。不幸的是，僅從數據中提取出的知識是有限的，而且往往我們所能做的最好的也是不夠好。 然而，試圖僅從原始數據中獲得知識，卻忽視了臨床醫生和其他醫療專家所擁有的大量知識和專長。在這項工作的最后一部分，我們將論證，為了使OPE的性能足夠好，使其能夠被信任并用于醫療領域，領域專家必須被納入評估過程。為了能夠在OPE中使用領域專家，必須開發新的方法，使幾乎總是不熟悉RL和OPE技術細節的臨床醫生能夠有效地提供對OPE過程有用的意見。我們將在這個方向上邁出一步，描述一種方法，使臨床醫生能夠隨意地識別OPE方法何時可能給出不可靠的結果，并討論發展這一研究途徑的未來方向。

總而言之，這項工作應該概述了OPE在醫療領域的狀況，以及將其引入現實世界所必須做出的努力--從詳細說明當前方法可能失敗的方式和解決這些問題的可能方法，到描述臨床醫生可以被納入評估過程的方式。本論文的其余部分的結構如下：本章的其余部分介紹了本論文將使用的基本符號，并涵蓋了相關文獻。 第三章繼續討論基于模型的OPE，并介紹了一種建立模型的方法，該方法的訓練強調從評估策略下可能出現的例子中學習，并沿用了Liu等人的工作。最后，在第四章中，我們討論了如何利用臨床醫生的輸入來調試和驗證OPE的結果，沿用了Gottesman等人的方法。

預計量子計算機將能夠解決各種問題，而這些問題是目前最強大的超級計算機所無法解決的，這些超級計算機是基于經典技術的。在過去的三十年里，量子計算的進展激發了工業界、投資者、媒體、管理人員和公眾對這一領域的極大興趣。然而，對這項技術的理解，它目前的能力和它在這些社區的潛在影響仍然缺乏。彌補這一差距需要對如何評估量子計算設備的性能和估計其潛力有一個完整的了解，而量子計算模型和物理平臺的多樣性使這一任務更加困難。在這里，我們回顧了量子計算的技術現狀，有前途的計算模型和最發達的物理平臺。我們還討論了潛在的應用，這些應用提出的要求和解決這些要求的技術途徑。最后，我們總結和分析了量子計算市場將進一步指數式增長的論據。這篇綜述用簡單的語言寫成，沒有方程式，沒有高級數學和物理學背景的讀者也應該能看懂。

該講座主要面向機器學習、計算機科學或相關學位的碩士學生，但也可能吸引其他學科的學生，如數學、物理、語言學、經濟學等。如果有疑問，請參加第一堂課并與我們交談。

該報告的重點是機器學習的算法和理論兩個方面。我們將介紹許多標準算法，并了解構建良好機器學習算法的一般原理和理論結果。主題范圍從已經確立的結果到最近的結果。

• 貝葉斯決策理論，沒有免費的午餐定理。
• 監督學習問題(回歸，分類): 簡單基線(最近鄰，隨機森林);線性方法;正則化; 支持向量機，非線性核方法及其背后的理論
• 無監督學習問題:PCA降維到流形方法從k-means到譜聚類和譜圖理論，從MDS到t-SNE的嵌入算法
• 統計學習理論:一致性和泛化界限
• 社會背景下的機器學習:公平、可解釋性等
• 低秩矩陣完成，壓縮感知
• 排序

//www.tml.cs.uni-tuebingen.de/teaching/2022_statistical_learning/index.php

《量子計算實戰》是一本介紹量子計算的思想和應用的書籍。

簡單回顧一下量子計算的科學原理，它指導你實現量子計算算法。您將編寫您的第一個量子代碼，并使用基于java的Strange量子模擬器探索量子位和量子門。當您使用標準Java和您喜歡的IDE以及構建工具創建量子算法時，您將會欣賞到有趣的示例和深刻的解釋。

《量子計算實戰》向您展示了如何利用您現有的Java技能來編寫您的第一個量子軟件，因此您已經為量子革命做好了準備。這本書關注的是量子計算算法的實際實現——沒有深奧的數學或令人困惑的理論。使用Strange，一個基于java的量子計算機模擬器，您將親身體驗量子計算的核心組件，包括量子位和量子門。

在量子計算實戰中，你將學習: 量子計算的核心概念的介紹 量子位和量子門 疊加、糾纏和混合計算 量子算法包括Shor, Deutsch-jozsa和Grover的搜索

課程介紹

在人工智能、統計學、計算機系統、計算機視覺、自然語言處理和計算生物學等許多領域中的問題，都可以被視為從局部信息中尋找一致的全局結論。概率圖模型框架為這些普遍問題提供了統一的視角解決方案，支持在具有大量屬性和龐大數據集的問題中進行有效的推理、決策和學習。本研究生課程將為您運用圖模型到復雜的問題和解決圖模型的核心研究課題提供堅實的基礎。

課程大綱

• 模塊1 - 簡介，表示形式和精確推斷
• 模塊2 - 近似推斷
• 模塊3 - 深度學習和生成模型
• 模塊4 - 通過GM中的推理進行強化學習和控制
• 模塊5 - 非參數方法
• 模塊6 - 模塊化和可擴展的算法和系統

講師：邢波

講師簡介

邢波，卡耐基梅隆大學教授，曾于2014年擔任國際機器學習大會（ICML）主席。主要研究興趣集中在機器學習和統計學習方法論及理論的發展，和大規模計算系統和架構的開發。他創辦了Petuum 公司，這是一家專注于人工智能和機器學習的解決方案研發的公司，騰訊曾投資了這家公司。

個人主頁：

//www.cs.cmu.edu/~epxing/