人工智能(AI)和精準醫療的融合有望給醫療健康帶來一場革命。精準醫學方法識別出對治療不太常見的反應或有獨特醫療需求的患者表型。人工智能利用復雜的計算和推理來產生見解，使系統能夠推理和學習，并通過增強智能使臨床醫生做出決策。最近的文獻表明，探索這種融合的轉化研究將有助于解決精準醫療面臨的最困難的挑戰，尤其是那些非基因組和基因組決定因素，結合來自患者癥狀、臨床歷史和生活方式的信息，將有助于個性化診斷和預后。

在美國國家醫學院(National Academy of Medicine)最近發布的一份關于人工智能(AI)在醫療保健領域當前和未來狀態的報告中，作者指出，人工智能在應對人類現實(包括疲勞和注意力不集中)和機器出錯風險方面提供了“前所未有的機會”，以增強專家的護理和人工智能提供的幫助。重要的是，報告指出，盡管在使用這些技術時必須謹慎，但仍有很大的希望。健康相關數據的數字化和技術的快速吸收正在推動醫療領域AI開發和使用的變革和進步。然而，多模態數據集成、安全、聯邦學習(這需要在隱私、大規模機器學習和分布式優化等領域取得根本性進展)、模型性能和偏差可能會對人工智能在醫療保健中的使用構成挑戰在醫療保健領域成功采用人工智能的三個主要原則包括數據和安全、分析和見解以及共享專業知識。數據和安全等同于對人工智能系統的訓練方式以及用于訓練它們的數據和知識的完全透明和信任。隨著人類和人工智能系統越來越多地合作，我們必須信任這些系統的輸出。

分析和見解等同于“增強智能”和“可操作的見解”支持人類的行為，而不是取代它們。人工智能可以結合來自多個結構化和非結構化來源的輸入，在語義層面進行推理，并在計算機視覺、閱讀理解、對話系統和多模式應用中使用這些能力，以幫助衛生專業人員做出更明智的決定(例如，醫生作出診斷，護士制定護理計劃，或社會服務機構安排為老年人提供服務)。共享的專業知識等同于我們與人工智能系統的互補關系，人工智能系統由人類專業人員訓練，并為人類專業人員提供支持，從而導致勞動力的變化，從而產生新的技能。創建前沿AI模型和構建高質量業務應用的能力需要能夠訪問最新硬件的熟練專家。大量未開發的數據可能對我們的健康產生巨大的影響——然而這些數據存在于醫療系統之外我們個人的健康在很大程度上受到生活方式、營養、環境和獲得保健的途徑的影響。這些行為和社會決定因素以及其他外生因素現在可以通過可穿戴設備和一系列醫療設備進行跟蹤和測量。這些因素約占我們健康決定因素的60%(行為、社會經濟、生理和心理數據)，我們的基因約占30%，而我們的實際病史僅占10%。在我們的一生中，我們每個人將產生相當于3億多本個人和健康相關數據的書籍，這些數據可能有助于我們了解更長壽、更健康的生活。

大數據現象可以用五個v來描述:體量、速度、多樣性、準確性和價值。量是指大量復雜異構的數據，使得數據集過于龐大，無法使用傳統的數據庫技術進行存儲和分析。速度是指新數據生成和移動的速度。多樣性指的是結構化、半結構化和非結構化數據的不同類型，例如社交媒體對話和語音記錄。準確性是指數據的確定性、準確性、相關性和預測性。價值指的是將數據轉化為業務洞察。然而，數據的數量、種類、速度和準確性正在導致數據管理和工作負載的日益復雜——創造了對高級分析的更大需求，以發現洞察力——移動設備使技術更容易消費，創造了用戶對可視化分析的交互工具的需求。

大數據分析和人工智能在整個醫療保健領域越來越無所不在，包括5P領域:付款人、提供商、決策者/政府、患者和產品制造商。高達10%的全球衛生健康支出是由欺詐和濫用造成的，基于人工智能的工具有助于減少支付人項目中的欺詐、浪費和濫用。可靠地識別醫療編碼錯誤和不正確的索賠，可以節省大量的金錢、時間和精力，從而對支付人、提供者和政府產生積極的影響例如，IBM DataProbe是一種基于人工智能的商業智能工具，它能夠在2年內檢測并收回艾奧瓦州醫療補助企業醫療補助欺詐案中4150萬美元的服務費。在提供者領域，人工智能用于循證臨床決策支持，檢測不良事件，并使用電子健康記錄(EHR)數據預測患者再次入院的風險醫療政策制定者和政府使用基于人工智能的工具來控制和預測感染和疫情。FINDER就是一個例子，這是一個機器學習的模型，用于使用匿名和聚合的網絡搜索和位置數據實時檢測食源性疾病。另一個例子是使用IBM Connect360和IBM Watson護理管理器的綜合數據中心和護理管理解決方案，加州索諾馬縣政府機構在整個社區發生危機時，利用該方案改變了社會弱勢群體和其他流離失所者的健康和醫療保健該解決方案實現了在2017年和2019年索諾馬縣野火期間，將孤立的數據和服務集成到統一的公民地位視圖中，從結構化和非結構化來源識別健康的臨床和社會決定因素，構建算法將客戶與服務匹配，并簡化護理協調。隨著2020年初全球大流行性冠狀病毒疾病2019 (COVID-19)的出現，這種模型可用于預測高危人群，并可能為護理高危患者的臨床醫生提供額外的風險信息。AI在患者和生命科學/健康產品中的使用將在以下各部分中進行廣泛討論

從教育到招聘，社會中的重要決策越來越依賴于數據驅動的算法。然而，算法決策的長期影響在很大程度上沒有得到充分理解，在理論和實踐中，確保公平利益存在嚴重挑戰。在本文中，我從兩個角度考察了機器學習算法的社會動力學:(I)算法決策的長期公平性，以及(ii)匹配市場的長期穩定性。

在計算機科學中，算法公平這個主題受到了廣泛的關注，但最近才認識到算法可以通過各種動態機制對種群產生不同的影響。我們通過提出機器學習算法和感興趣群體的動態交互的兩種不同模型來促進這一不斷發展的理解。首先，我們引入了延遲影響的概念——決策結果被觀察后，決策算法對人口的福利影響，其動機是，例如，在應用新的貸款批準算法后，平均信用分數的變化。我們證明了研究界提出的公平機器學習的幾個統計標準，如果應用于決策約束，可能會對弱勢群體的福利造成損害。t，我們考慮一個動態的環境，在這個環境中，個人投資于一個基于算法決策規則的預期回報的積極結果。我們表明，不良的長期結果是由于群體間的異質性和缺乏可實現性而產生的，并研究了干預措施的有效性，如按群體“脫鉤”決策規則和提供補貼。

除了長期公平的問題，利用機器學習為社會造福面臨的另一個挑戰是社會選擇。在市場中，個人學習目標(通常是構想出來的)可能與實現有效市場結果的長期社會目標相沖突。受在線市場和平臺中重復匹配問題的激勵，我們研究了雙邊匹配市場，參與者重復匹配，并通過匹配獲得關于其偏好的不完全信息。由于競爭，一個參與者試圖了解自己的偏好可能會影響其他參與者的效用。我們為市場平臺設計了一種機器學習算法，使市場作為一個整體能夠足夠有效地學習他們的偏好，從而快速獲得稱為穩定的市場公平概念。此外，我們研究了上述問題的分散化版本，并設計了參與者的學習算法，以在給定過去數據的情況下戰略性地避免競爭，從而消除了對中央平臺的需要。我們還研究了具有獨立行動誘惑的策略參與者是否仍應遵循算法的建議，結果顯示了算法的激勵兼容性方面的幾個積極結果。

//www2.eecs.berkeley.edu/Pubs/TechRpts/2022/EECS-2022-41.pdf

摘要

在過去的幾十年里，分析為徹底改變醫療保健提供了希望，提供更有效、以患者為中心和個性化的護理。隨著越來越多的數據被收集、計算性能得到提高以及新算法的開發，機器學習已被視為推進醫療保健服務的關鍵分析工具。然而，直到最近，盡管人們對大數據的潛力充滿熱情，但只有少數例子影響了當前的臨床實踐。本論文提出了預測性和規范性方法的組合，這些方法將有助于向個性化醫療的過渡。

我們提出了新的機器學習算法來解決主要的數據缺陷，如缺失值、審查觀察和未觀察到的反事實。利用各種數據源，包括健康和索賠記錄、縱向研究和非結構化醫療報告，我們展示了分析在心血管和腦血管疾病背景下的潛在好處。為了推動這些方法的采用，我們在算法保險領域奠定了基礎，提出了一個量化框架來估計機器學習模型的訴訟風險。這項工作強調可解釋性和促進臨床醫生參與融入醫療保健系統的模型設計。

第一部分介紹了機器學習和優化交叉點的缺失數據插補、聚類和生存分析的數據驅動算法。第二部分強調了醫學領域的規范性和預測性分析的潛力。我們為個性化處方開發了一個新框架，并將其應用于冠狀動脈疾病的治療。第二部分還介紹了可以支持早期診斷和改善中風患者管理的預測模型。最后，第三部分提出了一種新的風險評估方法，使醫療機構能夠管理因實施分析決策工具而產生的風險。

第一章 引言

1.1 研究動機

ML 模型已開始在現代組織中發揮重要作用。在當今瞬息萬變的經濟和社會中，它們正迅速成為轉型、顛覆和競爭優勢的關鍵來源。等待這種影響的科學領域前沿是醫療保健和保險。這些領域的特點是不確定性和可變性，這對臨床醫生、政策制定者和商業領袖的決策過程構成重大挑戰。需要考慮的參數太多，潛在的并發癥眾多，而少數群體的專業信息匱乏。

醫療實踐仍然主要由傳統的統計技術驅動，這些技術從有限的樣本量和風險因素中得出結論。數據驅動的流程尚未整合到醫院決策中，而廣泛建立的醫療指南主要針對普通人群，在絕大多數情況下缺乏個性化。分析和機器學習為該領域創造了前所未有的機會，提供了可以利用大數據力量的新技術，在個人層面發現新見解。本論文的目的是展示我們如何利用這些寶貴的資源來個性化決策，并最終為患者、醫療機構和保險組織帶來更好的結果。

1.1.1 醫療保健應用的機器學習方法

從電子健康和索賠記錄到縱向研究和非結構化醫療報告，醫療保健行業使用各種需要專門算法的數據源。該領域遇到的問題的復雜性以及數據的不完整性，對充分發揮其潛力構成了重大挑戰。第一部分介紹了利用優化技術解決醫療保健應用中遇到的一些最常見數據問題的新 ML 算法：缺失值、聚類和刪失。在第 2 章中，我們設計了一種新方法 MedImpute，用于在多變量面板數據中估算缺失的臨床協變量。在第 3 章中，我們提出了通過最優樹 (ICOT) 進行可解釋聚類，這是一種恢復可解釋數據集群的新型無監督學習方法。在第 4 章中，我們解決了使用最優生存樹 (OST) 算法進行刪失的挑戰，生成全局優化的生存樹模型。與各種數據集和環境上的現有成熟方法相比，我們展示了這些算法的卓越計算性能。第一部分提供了可解釋性不必以犧牲準確性為代價的證據，提供了一套新的工具，可以在醫療保健中采用數據驅動模型方面發揮關鍵作用。

1.1.2 臨床數據的規范性和預測性分析

第二部分說明了分析對醫療保健行業的變革力量，強調了我們與醫學研究人員在創建促進臨床決策的規范模型和預測分數方面的聯合研究工作。首先，我們展示了如何利用可用的 ML 算法在患者層面提供治療建議，從而實現向個性化醫療的過渡。我們的工作通過綜合大量患者對不同方案觀察到的異質反應，揭示了個性化、高效的治療方法。我們的規范算法利用了基于投票方案的通用監督學習模型的組合。它的性能是通過一系列新的評估指標來衡量的，這些指標考慮了在各種基本事實下多種治療的反事實結果。因此，我們評估了規范方法的準確性、有效性和魯棒性。我們將這項技術應用于冠狀動脈疾病 (CAD) 的管理，這是對人類健康影響最大的臨床疾病之一（第 5 章）。

接下來，我們專注于以中風患者為中心的預測模型。我們強調模型推導和外部驗證過程，并提出潛在的技術來從非線性模型中識別可操作的見解。使用來自廣為人知的弗雷明漢心臟研究的結構化數據，我們在第 6 章中提出了一個健康個體估計 10 年中風風險的新模型。該模型已在波士頓醫療中心 (BMC) 進行了前瞻性驗證，并且正在 Hartford HealthCare 的初級保健機構進行回顧性評估。第 7 章轉向非結構化信息，介紹從非結構化放射影像文本中提取患者信息的綜合框架。我們結合使用自然語言處理和監督學習方法，自動檢測缺血性中風的潛在存在、位置和嚴重程度。該模型現已在布萊根婦女醫院和 BMC 成功用于患者表征。

在這些調查中，我們的目標是這些模型的采用和臨床整合。為了提供影響醫療實踐的有用且可解釋的工具，我們開發了在線 Web 應用程序來傳達建議的推薦系統結果。事實證明，這些接口對于確保醫生使用模型并在部署它們的醫療保健組織中產生真正的影響至關重要。

1.1.3 算法保險

現代醫療保健組織中數據驅動工具的實施同時擾亂了保險業。通過提供強大的預測模型來估計可能導致索賠的不良事件（即心臟病發作、癌癥等）的概率，分析已經開始超越健康保險中的傳統精算方法。未來，機器學習算法有望發揮更核心的作用，因為在預測性和規范性性能產生更好結果的情況下，它們將被要求取代人類決策。這種轉變引發了具有挑戰性的問題：“如果算法的推薦錯誤，誰來承擔責任？”和“我們如何保護決策者免受錯誤的算法預測？”隨著人工智能開始融入組織的決策過程，必須開發新型保險產品來保護其所有者免受風險。潛在的例子包括應用于放射學的圖像識別系統，這些系統可能承擔醫療責任，并從醫療保健擴展到自動駕駛汽車或用于制造的預測性維護算法，以及許多其他應用。第三部分為稱為算法保險的新研究領域奠定了基礎。我們提出了一個全面的量化過程來估計算法責任保險合同的風險敞口，同時考慮到二元分類模型的預測性能、可解釋性和可概括性。我們在醫療事故的背景下展示了我們的方法實施。

1.2 大綱和主要貢獻

本文的貢獻可以總結如下，按章節列出。

第 2 章：時間序列的醫學插補

數據缺失是醫療保健研究中的一個主要問題，因為不完整的信息經常出現在患者記錄中。在本章中，我們提出了一個新框架 MedImpute，用于在多變量面板數據中估算缺失的臨床協變量。這種方法提出了一種靈活的優化公式，可以對其進行修改以適應不同的插補算法。它可以使用廣泛的臨床數據集作為輸入，包括來自臨床試驗和電子健康記錄 (EHR) 的信息，這些信息對個性化醫療具有特別的研究興趣。我們將我們的貢獻總結如下：

? 我們在 MedImpute 框架下用時間序列信息制定了缺失數據插補的問題，擴展了 Bertsimas 等人 (2018) [32]提出的 OptImpute 框架。我們專注于 ??-最近鄰 (??-NN) 公式來解決優化問題并推導出相應的快速一階算法 med.knn。

? 我們進行了一系列計算實驗，測試該方法在三個真實世界數據集上的性能，改變缺失數據的百分比、每個個體的觀察次數以及缺失數據的機制。

? 我們證明，相對于其他最先進的缺失數據插補方法，med.knn 在所有實驗中始終能帶來最佳的預測性能和最低的插補誤差。

? 我們提出了一種新的自定義調整程序，以有效地學習優化問題中的超參數，與標準交叉驗證相比，該程序具有卓越的縮放性能和更好的插補精度。

本章中的工作成果發表在“機器學習”期刊 [41]。

圖 2.1：在 FHS、DFCI 和 PPMI 數據集上使用 MAE 度量的每種方法的插補誤差，缺失數據的百分比從 10% 變化到 50%。缺失數據機制固定為 MCAR。

第 3 章：可解釋聚類：一種優化方法

廣泛建立的聚類技術不能提供數據分離背后的直觀推理，從而限制了它們的可解釋性。在現實世界的應用中，特別是在醫療保健環境中，后者對決策者采用和集成 ML 工具構成了主要障礙。在本章中，我們提出了一種基于樹的無監督學習方法，該方法可以獲得可解釋的集群，其性能與其他現有算法相當或更好。我們的貢獻如下：

? 我們提供了無監督學習問題的 MIO 公式，導致創建全局最優聚類樹，激發了我們的新算法 ICOT。

? 我們建議使用迭代坐標下降 (CD) 方法來實現我們的方法，該方法可擴展到更大的問題，很好地逼近全局最優解。

? 我們引入了其他技術，利用采樣和集群創建的幾何原理來提高算法的效率。

? 我們證明，ICOT 與使用跨多個內部驗證標準的合成數據集的各種聚類方法相比具有競爭力。

? 我們提供了該算法如何在實際環境中使用的示例，并測試了 ICOT 對大型問題實例的擴展能力。

本章的工作成果發表于“機器學習” 期刊[31]。

圖 3.1：基于 Ruspini 數據集構建的聚類樹示例。

第 4 章：最優生存樹

生存分析解決了數據集中出現的挑戰，在這些數據集中出現了審查觀察結果，其中感興趣的結果通常是事件發生前的時間，但對于某些人來說，事件的確切時間是未知的。審查結果在醫療保健研究中無處不在，因此，用于生存分析的 ML 方法越來越受歡迎。我們提出了利用 MIO 和局部搜索技術生成全局優化生存樹模型的 OST 算法。我們證明 OST 提高了現有生存樹方法的準確性，特別是在大型數據集中。本章的主要貢獻是：

? 我們提出了一種生存樹算法，該算法利用 Optimal Trees 框架為審查數據生成可解釋的樹。

? 我們提出了一種新的準確度指標，用于評估 Kaplan-Meier 曲線估計相對于模擬數據集中已知生存分布的擬合度。

? 我們評估了我們的方法在模擬和真實世界數據集中的性能，并展示了相對于兩種現有算法的改進準確性。

? 我們提供了該算法如何用于預測不良事件風險并在現實世界數據集中產生臨床見解的示例。

本章中的工作已提交出版[28]。

圖 4.1：在 60 個真實世界數據集中平均分類方法的性能。 OCT 和 OCT-H 分別指的是沒有和有超平面分割的最優分類樹。

圖 4.6：生存樹算法的樹恢復指標摘要。

第 5 章：冠狀動脈疾病患者的個性化治療：機器學習方法

在本章中，我們的目標是為 CAD 患者找到最佳的主要治療方法，以最大限度地提高 TAE（心肌梗塞或中風）。我們提出了一種數據驅動的方法，利用多種回歸算法為每位患者分配具有最佳預測結果的方案。我們開發預測性和規范性模型，提供個性化的治療建議和評估它們的定量框架。本章的主要貢獻是：

? 我們提出了一種治療右刪失患者的新方法，該方法利用 ??-NN 方法來估計真實世界數據的真實生存時間。

? 我們開發了可解釋且準確的二元分類和回歸模型，用于預測 CAD 患者潛在不良事件的風險和時間。

? 我們提出了第一個利用 EHR 為 CAD 提供治療建議的規范性方法，將多個最先進的回歸模型與臨床專業知識相結合。

? 我們引入了一種新的評估框架來衡量規范算法的樣本外性能。

? 我們創建了一個在線應用程序，醫生可以在其中實時測試算法的性能，從而縮小與臨床實踐的差距。

本章中的工作成果發表于“醫療管理科學”期刊 [42]。

圖 5.3：OCT 模型第一部分的可視化。路徑 1 和 2 用藍色虛線矩形框表示。陰影節點包括樹模型的折疊子集。

第 6 章：非線性弗雷明漢中風風險評分

絕大多數中風發生在沒有梗塞病史的人群中，這突出了健康個體需要準確的中風風險評估工具。標準中風風險評分基于風險因素與疾病患病率之間存在線性關系的假設。然而，數學和醫學現實表明，這些因素的相互作用遠非線性，并且由于其他變量的缺失或存在，某些變量會獲得或失去意義。本章介紹 N-SRS；一種預測 10 年中風風險的新模型。利用 ML 算法，我們的風險計算器提高了事件預測的準確性，并以可解釋的方式揭示了患者特征之間的新關系。本章的主要貢獻如下：

? 我們提出了一種利用縱向研究數據用于監督學習模型的新方法，允許在訓練和測試隊列中出現同一患者的多個實例。

? 我們使用來自著名的弗雷明漢心臟研究的數據開發并驗證了第一個非線性、可解釋的預測評分，用于 10 年中風風險。

? 我們展示了 N-SRS 樹結構如何導致識別 23 個中風風險概況，突出新變量在疾病進展中的作用，例如心電圖結果中顯示的血細胞比容水平或異常。

? 我們構建了一個動態在線應用程序，作為算法的用戶友好界面，供臨床提供者使用。

本章中的工作發表于 PLOS one [257]。

圖 6.1：基于 N-SRS 樹的模型的可視化。

第 7 章：從放射學報告中識別缺血性中風、嚴重程度和位置的自然語言處理方法

快速、準確的數據提取可以顯著改善在大型數據集中識別中風、分類關鍵臨床報告和質量改進工作。然而，廣泛使用的 ICD-9/10 代碼經常錯誤地對缺血性卒中事件進行分類，并且不區分嚴重程度或位置。在本章中，我們的目標是開發一種工具，能夠以準確和自動化的方式從非結構化文本中提取臨床卒中信息。我們開發并報告了一個綜合框架，該框架研究了簡單和復雜的中風特異性自然語言處理 (NLP) 和監督學習技術的性能，以從射線照相文本中確定缺血性中風的存在、位置和嚴重度。我們將我們的貢獻總結如下：

? 我們收集了來自兩個大型學術醫療中心的 17,864 名患者的 60,564 份放射學報告。神經病學專家標記了 1,359 份報告，以確定中風的存在、位置和敏銳度。

? 我們應用標準文本特征化技術并開發神經血管特定詞 GloVe 嵌入。

? 我們訓練和驗證各種二進制分類算法，以從放射學報告中識別感興趣的結果。

? 我們證明了與深度學習配對的 GloVe 詞嵌入在推導和驗證隊列中的三項任務的所有方法中具有最佳的識別性能。

本章的工作成果發表于 PLOS one [256] 中。

圖 7.1：NLP 分類的接收器操作曲線。 A、中風存在； B、MCA位置； C、嚴重度。我們展示了數據的五次隨機拆分的平均靈敏度和特異性。

第 8 章：定價算法風險保險業尚未制定量身定制的合同來保護

ML 建模者和決策者免受算法錯誤的訴訟風險。在本章中，我們針對二元分類模型提出了一類新的訴訟索賠保險產品以及評估它們的定量工具。這項工作提供了一個全面的分析過程來評估此類模型的財務風險，為算法保險的新領域奠定了基礎。本章的主要貢獻是：

? 我們提出了一個定量框架，該框架根據模型的辨別性能、可解釋性和可概括性來估計模型的風險敞口。

? 我們采用優化公式來同時估計給定分類模型的保費和訴訟風險。我們使用穩健的優化和圍繞潛在損失場景的不同類型的不確定性來擴展公式。

? 我們為醫療責任提供了乳腺癌檢測的案例研究，并研究了模型參數在計算實驗中的影響。本

章的工作已提交出版 [30]。

圖 8.1：對于 ??、?? 分布的兩種不同組合，CVaR 作為 ?? 參數的函數。

摘要

近年來，現代網絡應用的技術和服務取得了重大進展，包括智能電網管理、無線通信、網絡安全以及多智能體自主系統。考慮到網絡實體的異構性質，新興的網絡應用程序需要博弈論模型和基于學習的方法，以創建分布式網絡智能，以響應動態或對抗環境中的不確定性和中斷。

本文闡述了網絡、博弈和學習的融合，為理解網絡上的多智能體決策奠定了理論基礎。我們在隨機近似理論的框架內提供了博弈論學習算法的選擇性概述，以及在現代網絡系統的一些代表性環境中的相關應用，例如下一代無線通信網絡、智能電網和分布式機器學習。除了現有的關于網絡上的博弈論學習的研究工作外，我們還強調了與人工智能的最新發展相關的博弈學習的幾個新角度和研究工作。一些新的角度是從我們自己的研究興趣中推斷出來的。本文的總體目標是讓讀者清楚地了解在網絡系統背景下采用博弈論學習方法的優勢和挑戰，并進一步確定理論和應用研究方面富有成果的未來研究方向。

引言

網絡上的多智能體決策最近吸引了來自系統和控制界的呈指數增長的關注。該領域在工程、社會科學、經濟學、城市科學和人工智能等各個領域獲得了越來越大的發展勢頭，因為它是研究大型復雜系統的普遍框架，并被廣泛應用于解決這些領域中出現的許多問題。例如社交網絡分析 [1]、智能電網管理 [2, 3]、交通控制 [4]、無線和通信網絡 [5-7]、網絡安全 [8,9] 以及多智能體自主系統[10]。

由于現代網絡應用中先進技術和服務的激增，解決多智能體網絡中的決策問題需要能夠捕捉新興網絡系統的以下特征和自主控制設計的新模型和方法：

1. 底層網絡的異構性，以一組節點為代表的多個實體以獨立決策能力追求自己的目標；
2. 系統需要分布式或去中心化運行，底層網絡拓撲結構復雜，規模過大，無法集中管理；
3. 需要創建響應網絡和環境變化的網絡智能，因為系統經常在動態或對抗環境中運行。

博弈論為解決這些挑戰提供了一套自然的工具和框架，并將網絡連接到決策制定。它需要開發數學模型，以定性和定量地描述具有不同信息和理性的自利行為體之間的相互作用是如何達到一個全局目標或導致在系統水平上出現行為的。此外，通過底層網絡，博弈論模型捕獲了拓撲結構對分布式決策過程的影響，在分布式決策過程中，智能體根據其目標和可獲得的局部信息(如對其鄰居的觀察)獨立規劃其行動。

除了網絡上的博弈論模型之外，在為網絡系統設計分散管理機制時，學習理論也是必不可少的，以便為網絡配備分布式智能。通過博弈論模型和相關學習方案的結合，這種網絡智能允許異構智能體相互進行戰略性交互，并學會對不確定性、異常和中斷做出響應，從而在網絡或最優系統上產生所需的集體行為模式級性能。這種網絡智能的關鍵特征是，即使每個智能體自己的決策過程受到其他決策的影響，智能體也會以在線和分散的方式達到均衡狀態，即我們稍后將闡明的納什均衡.為了給網絡配備分布式智能，聯網智能體應該通過在他們可能不知道的大型網絡上通過有限的局部觀察來適應動態環境。在計算上，分散式學習可以有效地擴展到大型和復雜的網絡，并且不需要關于整個網絡的全局信息，這與集中式控制法則相比更實用。

本文闡述了網絡、博弈和學習的融合，為理解網絡上的多智能體決策奠定了理論基礎。

圖 1：網絡、博弈和學習的融合。博弈論建模和學習理論的結合為各種網絡系統帶來了彈性和敏捷的網絡控制。

我們的目標是對博弈論學習方法及其在網絡問題中的應用提供系統的處理，以滿足上述三個要求。如圖 1 所示，新興的網絡應用需要新的方法，并且由于分散的性質，博弈論模型以及相關的學習方法為解決來自各個領域的網絡問題提供了一種優雅的方法。具體來說，我們的目標有三個：

1. 提供適用于多智能體決策問題的博弈論模型的高級介紹；
2. 提出基于隨機近似和李雅普諾夫理論的用于研究博弈學習過程的關鍵分析工具，并指出一些廣泛研究的學習動態；
3. 介紹可以通過博弈論學習解決的各種多智能體系統和網絡應用。

我們的目標是讓讀者清楚地了解在網絡系統的背景下采用新穎的博弈論學習方法的優勢和挑戰。除了突出顯示的內容外，我們還為讀者提供了進一步閱讀的參考。在本文中，完全信息博弈是本課題的基礎，我們將簡要介紹靜態博弈和動態博弈。關于這個主題的更全面的處理以及其他博弈模型，例如不完全信息博弈，可以在 [11-13] 中找到。由于大多數網絡拓撲可以通過博弈的效用函數結構來表征 [1, 14]，因此我們沒有闡明網絡拓撲對博弈本身的影響。相反，我們關注它對博弈學習過程的影響，其中玩家的信息反饋取決于網絡結構，我們展示了具有代表性的網絡應用程序來展示這種影響。我們推薦讀者參考 [1,14] 以進一步閱讀各種網絡上的博弈。

論文結構

我們的討論結構如下。在第 2 節中，我們介紹了非合作博弈和相關的解決方案概念，包括納什均衡及其變體，它們記錄了自利參與者的戰略互動。然后，在第 3 節，我們轉向本文的主要焦點：在收斂到納什均衡的博弈學習動態。在隨機逼近框架內，提供了各種動力學的統一描述，并且可以通過常微分方程（ODE）方法研究分析性質。在第 4 節中，我們討論了這些學習算法在網絡中的應用，從而導致了網絡系統的分布式和基于學習的控制。最后，第 5 節總結了本文。

現在的組織收集了大量的數據。要使數據對組織產生價值，就必須通過數據進行分析來提取見解，以更好地進行決策。

//images.china-pub.com/ebook8/8069565/ch01.pdf

在過去的幾年中，深度學習和醫學的交叉領域取得了快速的發展，特別是在醫學圖像的解譯方面。在本文中，我描述了三個關鍵方向，為醫學圖像解釋的深度學習技術的發展提出了挑戰和機遇。首先，我討論了專家級醫學圖像解譯算法的發展，重點是用于低標記醫學數據設置的遷移學習和自監督學習算法。其次，我討論了高質量數據集的設計和管理以及它們在推進算法發展中的作用，重點是使用有限的手動注釋的高質量標記。第三，我討論了真實世界的評估醫學圖像算法的研究，系統地分析了在臨床相關分布變化下的性能。總之，這篇論文總結了關鍵貢獻和見解，在這些方向與關鍵應用跨醫學專業。

//searchworks.stanford.edu/view/13876519

這個更新的第二版提供了機器學習算法和架構設計的指導。它提供了醫療保健領域智能系統的真實應用，并涵蓋了管理大數據的挑戰。

這本書已經更新了在海量數據，機器學習和人工智能倫理的最新研究。它涵蓋了管理海量數據復雜性的新主題，并提供了復雜機器學習模型的例子。來自全球醫療服務提供商的實證研究展示了大數據和人工智能在對抗慢性和新疾病(包括COVID-19)方面的應用。探討了數字醫療、分析和人工智能在人口健康管理中的未來。您將學習如何創建機器學習模型，評估其性能，并在您的組織內運作其結果。來自主要醫療服務提供商的研究覆蓋了全球數字服務的規模。通過案例研究和最佳實踐，包括物聯網，提出了評估人工智能機器學習應用的有效性、適用性和效率的技術。

您將了解機器學習如何用于開發健康智能，其目的是改善患者健康、人口健康，并促進顯著的護理支付方成本節約。

//link.springer.com/book/10.1007/978-1-4842-6537-6#about

你會： 了解關鍵機器學習算法及其在醫療保健中的使用和實現 實現機器學習系統，如語音識別和增強深度學習/人工智能 管理海量數據的復雜性 熟悉人工智能和醫療保健最佳實踐、反饋循環和智能代理

機器學習在許多部署的決策系統中發揮著作用，其方式通常是人類利益相關者難以理解或不可能理解的。以一種人類可以理解的方式解釋機器學習模型的輸入和輸出之間的關系，對于開發可信的基于機器學習的系統是至關重要的。一個新興的研究機構試圖定義機器學習的目標和解釋方法。在本文中，我們試圖對反事實解釋的研究進行回顧和分類，這是一種特殊類型的解釋，它提供了在模型輸入以特定方式改變時可能發生的事情之間的聯系。機器學習中反事實可解釋性的現代方法與許多國家的既定法律原則相聯系，這使它們吸引了金融和醫療等高影響力領域的實地系統。因此，我們設計了一個具有反事實解釋算法理想性質的準則，并對目前提出的所有反事實解釋算法進行了綜合評價。我們的標題便于比較和理解不同方法的優缺點，并介紹了該領域的主要研究主題。我們也指出了在反事實解釋空間的差距和討論了有前途的研究方向。

機器學習作為一種在許多領域實現大規模自動化的有效工具，正日益被人們所接受。算法能夠從數據中學習，以發現模式并支持決策，而不是手工設計的規則。這些決定可以并確實直接或間接地影響人類;備受關注的案例包括信貸貸款[99]、人才資源[97]、假釋[102]和醫療[46]的申請。在機器學習社區中，新生的公平、責任、透明度和倫理(命運)已經成為一個多學科的研究人員和行業從業人員的團體，他們感興趣的是開發技術來檢測機器學習模型中的偏見，開發算法來抵消這種偏見，為機器決策生成人類可理解的解釋，讓組織為不公平的決策負責，等等。

對于機器決策，人類可以理解的解釋在幾個方面都有優勢。例如，關注一個申請貸款的申請人的用例，好處包括:

• 對于生活受到該決定影響的申請人來說，解釋是有益的。例如，它幫助申請人理解他們的哪些因素是做出決定的關鍵因素。

• 此外，如果申請人覺得受到了不公平待遇，例如，如果一個人的種族在決定結果時至關重要，它還可以幫助申請人對決定提出質疑。這對于組織檢查其算法中的偏見也很有用。

• 在某些情況下，解釋為申請人提供了反饋，他們可以根據這些反饋采取行動，在未來的時間內獲得預期的結果。

• 解釋可以幫助機器學習模型開發人員識別、檢測和修復錯誤和其他性能問題。

• 解釋有助于遵守與機器生產決策相關的法律，如GDPR[10]。

機器學習中的可解釋性大體上是指使用固有的可解釋的透明模型或為不透明模型生成事后解釋。前者的例子包括線性/邏輯回歸、決策樹、規則集等。后者的例子包括隨機森林、支持向量機(SVMs)和神經網絡。

事后解釋方法既可以是模型特定的，也可以是模型不可知的。特征重要性解釋和模型簡化是兩種廣泛的特定于模型的方法。與模型無關的方法可以分為視覺解釋、局部解釋、特性重要性和模型簡化。

特征重要性(Feature importance)是指對模型的整體精度或某個特定決策最有影響的特征，例如SHAP[80]、QII[27]。模型簡化找到了一個可解釋的模型，該模型緊致地模仿了不透明模型。依存圖是一種常用的直觀解釋，如部分依存圖[51]、累積局部效應圖[14]、個體條件期望圖[53]。他們將模型預測的變化繪制成一個特征，或者多個特征被改變。局部解釋不同于其他解釋方法，因為它們只解釋一個預測。局部解釋可以進一步分為近似解釋和基于實例的解釋。近似方法在模型預測需要解釋的數據點附近抽取新的數據點(以下稱為explainee數據點)，然后擬合線性模型(如LIME[92])或從中提取規則集(如錨[93])。基于實例的方法尋求在被解釋數據點附近找到數據點。它們要么以與被解釋數據點具有相同預測的數據點的形式提供解釋，要么以預測與被解釋數據點不同的數據點的形式提供解釋。請注意，后一種數據點仍然接近于被解釋的數據點，被稱為“反事實解釋”。

回想一下申請貸款的申請人的用例。對于貸款請求被拒絕的個人，反事實的解釋為他們提供反饋，幫助他們改變自己的特征，以過渡到決策邊界的理想一面，即獲得貸款。這樣的反饋被稱為可執行的。與其他幾種解釋技術不同，反事實解釋不能明確回答決策中的“為什么”部分;相反，他們提供建議以達到預期的結果。反事實解釋也適用于黑箱模型(只有模型的預測功能是可訪問的)，因此不限制模型的復雜性，也不要求模型披露。它們也不一定能近似底層模型，從而產生準確的反饋。由于反事實解釋具有直覺性，因此也符合法律框架的規定(見附錄C)。

在這項工作中，我們收集、審查和分類了最近的39篇論文，提出了算法，以產生機器學習模型的反事實解釋。這些方法大多集中在表格或基于圖像的數據集上。我們在附錄b中描述了我們為這項調查收集論文的方法。我們描述了這個領域最近的研究主題，并將收集的論文按照有效的反事實解釋的固定需求進行分類(見表1)。