亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

目前，深度神經網絡廣泛應用于醫療、自動駕駛汽車、軍事等直接影響人類生活的關鍵任務系統。然而，深度神經網絡的黑箱特性對其在關鍵任務應用中的應用提出了挑戰，引發了道德和司法方面的擔憂，導致信任缺失。可解釋人工智能(XAI)是人工智能(AI)的一個領域，它促進了一套工具、技術和算法，可以生成高質量的可解釋的、直觀的、人類可以理解的人工智能決策解釋。除了在深度學習中提供當前XAI景觀的整體視圖外，本文還提供了開創性工作的數學總結。首先，我們根據XAI技術的解釋范圍、算法背后的方法論以及有助于構建可信、可解釋和自解釋的深度學習模型的解釋級別或用法，提出了一種分類和分類方法。然后，我們描述了在XAI研究中使用的主要原則，并給出了2007年至2020年XAI里程碑式研究的歷史時間表。在詳細解釋了每一類算法和方法之后，我們對8種XAI算法在圖像數據上生成的解釋圖進行了評估，討論了該方法的局限性，并為進一步改進XAI評估提供了潛在的方向。

基于人工智能(AI)的算法，尤其是使用深度神經網絡的算法，正在改變人類完成現實任務的方式。近年來，機器學習(ML)算法在科學、商業和社會工作流的各個方面的自動化應用出現了激增。這種激增的部分原因是ML領域(被稱為深度學習(DL))研究的增加，在深度學習中，數千(甚至數十億)個神經元參數被訓練用于泛化執行特定任務。成功使用DL算法在醫療(Torres2018, Lee2019, Chen2020)、眼科(Sayres2019、Das2019 Son2020],發育障礙(MohammadianRad2018、Heinsfeld2018 Silva2020Temporal],在自主機器人和車輛(You2019、Grigorescu2019 Feng2020],在圖像處理的分類和檢測[Sahba2018 Bendre2020Human], 在語音和音頻處理(Boles2017, Panwar2017),網絡安全(Parra2020Detecting, Chacon2019Deep), 還有更多DL算法在我們日常生活中被成功應用。

深度神經網絡中大量的參數使其理解復雜，不可否認地更難解釋。不管交叉驗證的準確性或其他可能表明良好學習性能的評估參數如何，深度學習(DL)模型可能天生就能從人們認為重要的數據中學習表示，也可能無法從這些數據中學習表示。解釋DNNs所做的決策需要了解DNNs的內部運作，而非人工智能專家和更專注于獲得準確解決方案的最終用戶則缺乏這些知識。因此，解釋人工智能決策的能力往往被認為是次要的，以達到最先進的結果或超越人類水平的準確性。

對XAI的興趣，甚至來自各國政府，特別是歐洲通用數據保護條例(GDPR) [AIHLEG2019]的規定，顯示出AI的倫理[Cath2017, Keskinbora2019, Etzioni2017, Bostrom2014, stahl2018ethics]， trust [Weld2019, Lui2018, Hengstler2016]， bias [Chen2019Hidden, Challen2019, Sinz2019, Osoba2017]的重要實現，以及對抗性例子[Kurakin2016, Goodfellow2015, Su2019, Huang2017]在欺騙分類器決策方面的影響。在[Miller2019]， Miller等人描述了好奇心是人們要求解釋具體決策的主要原因之一。另一個原因可能是為了促進更好的學習——重塑模型設計并產生更好的結果。每種解釋都應該在相似的數據點上保持一致，并且隨著時間的推移對同一數據點產生穩定或相似的解釋[Sokol2020]。解釋應該使人工智能算法表達，以提高人類的理解能力，提高決策的信心，并促進公正和公正的決策。因此，為了在ML決策過程中保持透明度、信任和公平性，ML系統需要一個解釋或可解釋的解決方案。

解釋是一種驗證人工智能代理或算法的輸出決策的方法。對于一個使用顯微圖像的癌癥檢測模型，解釋可能意味著一個輸入像素的地圖，這有助于模型輸出。對于語音識別模型，解釋可能是特定時間內的功率譜信息對當前輸出決策的貢獻較大。解釋也可以基于參數或激活的訓練模型解釋或使用代理，如決策樹或使用梯度或其他方法。在強化學習算法的背景下，一個解釋可能會給出為什么一個代理做了一個特定的決定。然而，可解釋和可解釋的人工智能的定義通常是通用的，可能會引起誤解[Rudin2019]，應該整合某種形式的推理[Doran2018]。

AI模型的集合，比如決策樹和基于規則的模型，本質上是可解釋的。但是，與深度學習模型相比，存在可解釋性與準確性權衡的缺點。本文討論了研究人員解決深度學習算法可解釋性問題的不同方法和觀點。如果模型參數和體系結構是已知的，方法可以被有效地使用。然而，現代基于api的人工智能服務帶來了更多的挑戰，因為該問題的相對“黑箱”(Castelvecchi2016)性質，即終端用戶只掌握提供給深度學習模型的輸入信息，而不是模型本身。

在這個綜述中，我們提供了一個可解釋算法的全面概述，并將重要事件的時間軸和研究出版物劃分為三個定義完好的分類，如圖1所示。不像許多其他的綜述，只分類和總結在一個高水平上發表的研究，我們提供額外的數學概述和算法的重大工作在XAI領域。調查中提出的算法被分成三個定義明確的類別，下面將詳細描述。文獻中提出的各種評價XAI的技術也進行了討論，并討論了這些方法的局限性和未來的發展方向。

我們的貢獻可以概括如下:

• 為了系統地分析深度學習中可解釋和可解釋的算法，我們將XAI分類為三個定義明確的類別，以提高方法的清晰度和可訪問性。

• 我們審查，總結和分類的核心數學模型和算法，最近XAI研究提出的分類，并討論重要工作的時間。

• 我們生成并比較了八種不同XAI算法的解釋圖，概述了這種方法的局限性，并討論了使用深度神經網絡解釋來提高信任、透明度、偏差和公平的未來可能的方向。

主題： Opportunities and Challenges in Explainable Artificial Intelligence (XAI): A Survey

摘要： 如今，深度神經網絡已廣泛應用于對醫療至關重要的任務關鍵型系統，例如醫療保健，自動駕駛汽車和軍事領域，這些系統對人類生活產生直接影響。然而，深層神經網絡的黑匣子性質挑戰了其在使用中的關鍵任務應用，引發了引起信任不足的道德和司法問題。可解釋的人工智能（XAI）是人工智能（AI）的一個領域，它促進了一系列工具，技術和算法的產生，這些工具，技術和算法可以生成對AI決策的高質量，可解釋，直觀，人類可理解的解釋。除了提供有關深度學習當前XAI格局的整體視圖之外，本文還提供了開創性工作的數學總結。我們首先提出分類法，然后根據它們的解釋范圍，算法背后的方法，解釋級別或用法對XAI技術進行分類，這有助于建立可信賴，可解釋且自解釋的深度學習模型。然后，我們描述了XAI研究中使用的主要原理，并介紹了2007年至2020年XAI界標研究的歷史時間表。在詳細解釋了每種算法和方法之后，我們評估了八種XAI算法對圖像數據生成的解釋圖，討論了其局限性方法，并提供潛在的未來方向來改進XAI評估。

【導讀】國際萬維網大會（The Web Conference，簡稱WWW會議）是由國際萬維網會議委員會發起主辦的國際頂級學術會議，創辦于1994年，每年舉辦一屆，是CCF-A類會議。WWW 2020將于2020年4月20日至4月24日在中國臺灣臺北舉行。本屆會議共收到了1129篇長文投稿，錄用217篇長文，錄用率為19.2%。這周會議已經召開。來自美國Linkedin、AWS等幾位學者共同給了關于在工業界中可解釋人工智能的報告，講述了XAI概念、方法以及面臨的挑戰和經驗教訓。

人工智能在我們的日常生活中扮演著越來越重要的角色。此外，隨著基于人工智能的解決方案在招聘、貸款、刑事司法、醫療和教育等領域的普及，人工智能對個人和職業的影響將是深遠的。人工智能模型在這些領域所起的主導作用已經導致人們越來越關注這些模型中的潛在偏見，以及對模型透明性和可解釋性的需求。此外，模型可解釋性是在需要可靠性和安全性的高風險領域(如醫療和自動化交通)以及具有重大經濟意義的關鍵工業應用(如預測維護、自然資源勘探和氣候變化建模)中建立信任和采用人工智能系統的先決條件。

因此，人工智能的研究人員和實踐者將他們的注意力集中在可解釋的人工智能上，以幫助他們更好地信任和理解大規模的模型。研究界面臨的挑戰包括 (i) 定義模型可解釋性，(ii) 為理解模型行為制定可解釋性任務，并為這些任務開發解決方案，最后 (iii)設計評估模型在可解釋性任務中的性能的措施。

在本教程中，我們將概述AI中的模型解譯性和可解釋性、關鍵規則/法律以及作為AI/ML系統的一部分提供可解釋性的技術/工具。然后，我們將關注可解釋性技術在工業中的應用，在此我們提出了有效使用可解釋性技術的實踐挑戰/指導方針，以及在幾個網絡規模的機器學習和數據挖掘應用中部署可解釋模型的經驗教訓。我們將介紹不同公司的案例研究，涉及的應用領域包括搜索和推薦系統、銷售、貸款和欺詐檢測。最后，根據我們在工業界的經驗，我們將確定數據挖掘/機器學習社區的開放問題和研究方向。

//sites.google.com/view/www20-explainable-ai-tutorial

【導讀】人工智能領域的國際頂級會議 AAAI 2019 即將于 1 月 27 日至 2 月 1 日在美國夏威夷舉行。AAAI2019第一天的關于可解釋人工智能的Tutorial引起了人們極大的關注，這場Tutorial詳細闡述了解釋黑盒機器學習模型的術語概念以及相關方法，是構建可解釋模型的重要指南.

AI系統--我如何信任它們？

在現實生活中，每一個決策，無論是由機器還是低級員工又或是首席執行官做出的，為了達到提高整體的業務水平的目的，都要通過定期的審查，來解釋他們的決定。這就產生了人工智能的新興分支，稱為“可解釋的人工智能”(XAI)。

什么是可解釋的AI(XAI)?

XAI是人工智能的一個新興分支，用于解釋人工智能所做出的每一個決策背后的邏輯。下圖是對一個完整AI決策流程的簡單描述。

AAAI 2019 tutorial: 可解釋AI –從理論到動機，應用和局限性

一、本教程希望為以下問題提供答案:

1. 什么是可解釋的AI (XAI)?

   什么是可解釋的AI(簡稱XAI)，即人工智能社區的各種流程 (Machine Learning, Logics, Constraint Programming, Diagnostics)的解釋是什么?解釋的度量標準是什么?
   

2. 我們為什么要在意?

   為什么可解釋的人工智能很重要?甚至在某些應用中至關重要?解釋人工智能系統的動機是什么?

3. 它在哪里至關重要？

   在現實世界中，哪些應用程序需要解釋如何大規模部署AI系統?
   

4. 它是如何工作的?

   在計算機視覺和自然語言處理中，最前沿的解釋技術是什么?對于哪種數據格式、用例、應用程序、行業，哪些方法效果好，哪些方法效果不好?

5. 我們學到了什么?

   部署現有可解釋AI系統的經驗教訓和局限性是什么?在向人類解釋的過程中學到了什么?
   

6. 接下來的發展是什么?

   可解釋AI未來的發展方向是什么?

二、概述

人工智能的未來在于使人們能夠與機器協作解決復雜的問題。與任何有效的協作一樣，這需要良好的溝通，信任，清晰和理解。 可解釋AI（XAI，eXplainable AI）旨在通過將符號人工智能與傳統機器學習的最佳結合來應對這些挑戰。多年來，人工智能的各個不同社區都在研究這一主題，它們有著不同的定義、評估指標、動機和結果。本教程簡要介紹了可解釋AI到目前為止的工作，并調研了人工智能社區在機器學習和符號人工智能相關方法方面所完成的工作。

在本教程的第一部分中，我們將介紹AI解釋的不同方面。然后我們將本教程的重點放在兩個具體的方法上：（i）使用機器學習的可解釋AI和（ii）使用基于圖（graph）的知識表示和機器學習結合的可解釋AI。對于這兩者，我們深入探討了該方法的具體細節，現有技術以及后續步驟的研究挑戰。本教程的最后一部分概述了可解釋AI的實際應用。

三、大綱

【介紹】

人工智能解釋的廣泛介紹。這將包括從理論和應用的角度描述和激發對可解釋AI技術的需求。在這一部分中，我們還總結了先決條件，并介紹了本教程其余部分所采用的不同視角。

【可解釋AI】

人工智能的各個領域（優化，知識表示和推理，機器學習，搜索和約束優化，規劃，自然語言處理，機器人和視覺）的解釋概述，使每個人對解釋的不同定義保持一致。本教程將涵蓋大多數定義，但只會深入以下領域:(i)可解釋的機器學習，(ii)具有知識圖和ML的可解釋AI。

【可解釋機器學習】

在本節中，我們將解決可解釋的機器學習pipeline的廣泛問題。我們描述了機器學習社區中可解釋性的概念，并通過描述一些流行的可解釋性模型來繼續。本節的核心是對不同類別的黑箱問題進行分析，從黑箱模型講解到黑箱結果講解，最后是黑箱檢查。

【用知識圖譜和ML解釋AI】

在本教程的這一部分中，我們將從兩個不同的角度闡述基于圖的知識庫的解釋力:

用語義網和邏輯解釋AI

我們展示了支持語義web的模式豐富的、基于圖的知識表示范式是如何實現有效解釋的。本節還將重點介紹從大型異構知識庫中表示和推斷有效解釋的邏輯和推理方法。

基于知識圖譜的機器學習

在本節中，我們將重點討論知識圖嵌入模型，即將知識圖中的概念編碼為連續低維向量的神經架構。這些模型已經被證明對許多機器學習任務有效，特別是知識庫的完成。我們解釋了這些模型的基本原理和架構，并從它們的不可預測性以及如何增強第三方模型的可解釋性的角度對它們進行了考察。

【應用】

我們展示了應用解釋技術的真實示例。我們關注一些使用案例：i)具有內置解釋功能的可解釋的航班延誤預測系統; ii)基于知識圖的語義推理，預測和解釋企業項目風險層次的大范圍合同管理系統;iii) 500多個城市的大型組織員工異常報銷的識別、解釋和預測的費用體系。

Tutorial的講者

PPT下載鏈接：//pan.baidu.com/s/1dyjGJyhqS3-E77DysIkgHQ 提取碼：aq79

報告主題： On The Role of Knowledge Graphs in Explainable AI

嘉賓介紹： Freddy Lecue博士是加拿大蒙特利爾泰勒斯人工智能技術研究中心的首席人工智能科學家。他也是法國索菲亞安提波利斯溫姆斯的INRIA研究所的研究員。在加入泰雷茲新成立的人工智能研發實驗室之前，他曾于2016年至2018年在埃森哲愛爾蘭實驗室擔任人工智能研發主管。在加入埃森哲之前，他是一名研究科學家，2011年至2016年在IBM research擔任大規模推理系統的首席研究員，2008年至2011年在曼徹斯特大學(University of Manchester)擔任研究員，2005年至2008年在Orange Labs擔任研究工程師。

報告目錄：

• 人工智能中的解釋
  • 動機
  • 定義
  • 評估（以及人類在可解釋性人工智能中的角色）
  • 人類作用
  • 不同AI領域的解釋性
• 知識圖譜在可解釋性機器學習中的角色和作用
• 利用知識圖譜在機器學習中的可解釋性人工智能工業應用
• 結論