這篇文章主要側重于人工智能技術在智能武器裝備中的研究與應用。描述了人工智能的定義，人工智能技術的 發展以及美國對人工智能的重視。探討了人工智能在智能武器裝備中的關鍵技術，包括目標定位與識別技術、 自主攻擊技術、分布式作戰或蜂群作戰技術、作戰機器人技術等，并進一步闡述了在關鍵技術中應該突破的技 術性問題。列舉了人工智能技術在智能武器裝備中的應用實例，對人工智能技術的發展作了總結與展望。
**1. 引言 **
當今時代，國際間的事務深度復雜變化，充滿著不確定性和不穩定性。智能武器裝備對于一個國家 起著非常重要的作用。隨著科技的不斷發展，人工智能技術應用于智能武器裝備顯然成為現代智能武器 裝備發展的一種趨勢。本文的研究內容主要包括目標定位與識別技術、自主攻擊技術、分布式作戰或蜂 群作戰技術、作戰機器人技術。目標定位與識別技術就是利用人工神經網絡，仿照生物機理，搭建像人 一樣的神經網絡，把數據集中的數據輸入到神經網絡中，通過不斷學習和訓練取得訓練模型，從而實現 對目標的定位與識別。自主攻擊技術在本文中主要通過流程圖的形式呈現出來，自主攻擊的核心技術主 要是通過人工智能技術中的目標定位與識別技術、智能認知系統、智能決策系統、智能路徑規劃、智能 控制技術，實現對目標的自主攻擊。分布式作戰或蜂群作戰技術中，主要闡述了智能體之間的關系，現 在的分布式或蜂群作戰的發展概況以及所存在的不足。探討了作戰機器人應該具備的特點和屬性以及研 究作戰機器人需要具備的知識，闡述了現階段作戰機器人需要解決的技術問題。
**2. 人工智能定義 **
人工智能就是利用人工的技術手段使得機器更加智能。人工智能這一名稱的提出距今已有 60 多年， 2015 年人工智能得到了進一步發展，時至今日，人工智能仍然是一個火熱的研究方向之一，人工智能涉 及到生活的方方面面，人臉識別、智能醫療診斷、智能火星探測車等都是利用人工智能技術服務于人類 的實例。人工智能的迅速發展離不開各學科的相互發展。人工智能屬于社會科學與自然科學的交叉學科， 具有高度技術性和專業性的特點，涉及到包括數學、神經科學、計算機科學、哲學和認知科學、控制科 學、生物科學等多門學科[1]。人工智能大致包含的學科如圖 1 所示。
3. 人工智能技術的發展及美國的重視
人工智能技術的迅速發展，一般認為可以分為 4 個階段，以數學等為基礎的弱人工智能階段，以運 算與感知為基礎的強人工智能階段，以認知為基礎的通用人工智能階段和超級人工智能階段[2]。目前世 界各國都高度重視對人工智能技術的研究、開發和應用，但是，現在的人工智能技術仍處在弱人工智能 階段。人工智能技術的主要發展層次大致分為 3 個層級的智能，包括運算、感知和認知，即機器要具有 高效快速運算的能力，同人類類似或超越人類的記憶和存儲信息的能力，同人類的視覺、聽覺、觸覺相 似的感知能力，像人一樣能理解推理、能夠知識表達和會思考的認知能力[3]。根據美國、俄羅斯、印度、日本、國際軍控和裁軍組織，瑞典軍事研究所等媒體和組織對 2020 年世 界軍事強國的排名，排名第一的仍然是美國。美國作為軍事強國之所以保持其軍事強國地位離不開強大 的經濟實力和尖端的軍事科學技術。近年來，隨著人工智能技術的迅速發展，引起了以美國為首的現代軍事強國高度重視。從 2016 年起至 今，美國對于人工智能技術在軍事領域的研究與應用格外重視。2016 年，人工智能技術在全球盛行，也引 起了美國軍方的高度關注，美國為了應對各種復雜嚴峻的軍事挑戰，提出了第三次“抵消戰略”，提出了一 系列優先發展技術的新型作戰概念，例如“分布式作戰”“蜂群”“作戰云”等，美國政府要求優先發展人 工智能技術，推動“智能化導彈”“智能無人機”“無人自主空中加油”等相關人工智能技術在軍事方面的 研究與應用。美國的《國防戰略》，將先進與智能計算、大數據、自主智能、智能機器人等新型人工智能技 術作為美國在軍事領域打贏智能化戰爭的核心技術。2019 年 11 月 21 日，美國國會在《人工智能與國家安 全》報告中指出，人工智能是一個新興創新發展的技術，對維護國家安全具有舉足輕重的重要意義。2020 年，美國加大人工智能領域投入和布局。2021 年，美國在人工智能相關研發項目上投資超過 60 億美元。美 國國會已經指示國防部聯合人工智能中心在 4 月底之前向國會國防委員會提供一份國防部所有人工智能活 動的清單。這充分表明，美國對人工智能的重視，尤其是在軍事領域，美國更加傾注于人工智能技術的發展。
4. 人工智能在智能武器裝備中的關鍵技術
智能武器裝備的核心是先進技術，將人工智能技術應用到智能武器中，將大大增強軍事戰斗力。本 文主要探究了 4 種人工智能技術在智能武器裝備中的作用，分別為目標定位與識別技術、自主攻擊技術、 分布式作戰或蜂群作戰技術、作戰機器人技術。
4.1. 目標定位與識別技術
作戰狀態中，以對敵軍武器及敵人進行精準打擊為目的，這就需要智能武器裝備在外部環境干擾的 情況下，采用武器內部的自主定位與識別系統對敵方目標精準定位與識別，人工智能技術中的目標定位 與識別技術顯得尤為重要。目前，以卷積神經網絡為基礎的深度學習、機器學習是各國在目標定位與識 別研究領域之一，它主要解決的是在目標定位與識別中的準確度和效率。基于計算機視覺的低層理論是 卷積神經網絡[4]。如圖 2、圖 3 所示。由圖可知，卷積神經網絡的運算方式是從一端輸入相關的信息數據，經過卷積神經網絡的隱藏層， 最后從另一端輸出運算模型。例如，通過數據集、YOLO 系列算法等，將處理后的圖像數據輸入到卷積 神經網絡結構，通過優化參數學習率、激活函數、分類函數等參數的優化，進行不斷的迭代與訓練，提 取數據的特征，從而獲得目標定位與識別模型，通過測試程序調用卷積神經網絡學習和訓練好的模型， 實現對目標的定位與識別功能。在人工智能研究領域，目標定位與識別方面要具有良好的魯棒性，包括 精準定位、精準識別、運算效率高、中央處理器消耗低、數據集樣本量少、無需人為設定參數等，還應 該具有最優的回歸函數、損失函數、神經網絡的激活函數等。目前，上述技術還需進一步突破。
戰時狀態下的環境錯綜復雜，智能武器裝備在目標定位與識別中擁有核心算法是不可或缺的條件。 這里分別列舉了 2019 年、2020 年、2021 年的人工智能目標定位與識別的高性能算法模型，如表 1 所 示。戰時狀態下，毫秒必爭，敵軍的目標處于變動的狀態，快速精準鎖定目標與實現精準識別打擊功能 是現代武器裝備作戰具備的必要條件，如圖 4 所示。圖中為陸地作戰的場景，智能化的戰場，首要任務 是精準定位與識別目標，采用基于人工智能技術的自主定位識別系統，能夠快速鎖定目標，實現對目標 的精準打擊。
4.2. 自主攻擊技術
自主攻擊技術無需遠程人員操控，只是依賴于智能武器裝備本身所攜帶的傳感器、計算機、智能芯 片等先進部件，對敵方的信息自動搜索、識別、智能決策、選擇與自主攻擊。最具代表性的是無人作戰 機，使得無人作戰機不僅具有隱身的功能，還應具有自行完成起飛、自主攻擊，返回與降落等功能，其 中，自主攻擊是取得勝利的關鍵因素。圖 5 為自主攻擊技術流程圖。
上圖中，無人作戰機主要是通過自主攻擊系統實現對目標的自主攻擊。自主攻擊系統依賴的核心是智能裝備中的人工智能技術，它包含目標定位與識別、智能認知與決策、攻擊軌跡的生成、智能控制等關鍵技術。首先，無人作戰機獲取攻擊目標，這一步主要是通過基于深度學習的算法來實現。其次，是對目標的認知和決策，通過智能認知和決策算法對攻擊的目標篩查與檢測，實現精準攻擊目標的目的。無人作戰機獲得智能認知、決策后，接下來就需要對攻擊目標的軌跡進行規劃，主要采用的是軌跡路徑規劃算法。在智能控制部分，主要采用的是智能控制算法，實現多功能、全方位的智能控制，包括武器控制系統、目標定位與識別、攻擊軌跡的生成、飛行控制等。上述是實現自主攻擊功能的大致流程，但上述的每一部分所采用的技術都還不成熟，還需進一步研究。以下分別就上述技術的簡單論述。
4.2.1. 智能認知系統
智能認知系統是人工智能技術之一[23]，無人作戰機具有智能認知的功能才能夠自主攻擊目標。認知 計算是建立在神經網絡和深度學習的基礎之上，基于人工智能和信息科學的技術平臺，這些平臺包括機 器學習、推理與表達、自然語言處理、計算機視覺、人機交互、定性空間表示等技術，通過運用認知科 學知識構建模擬人類思維過程的系統。智能認知系統離不開認知計算，目前，量子認知計算成為認知計 算發展的一大方向[24]-[29]。量子認知計算是當代量子計算與認知科學相結合的一個新型邊緣學科，通過 對認知科學中的現象進行建模，運用量子理論的計算方法，研究與描述人的認知及其決策的交叉科學。量子認知計算通過人的大腦接受外界所獲得的數據信息，經過人的大腦的加工處理，通過某種方式轉換 成內在的心理活動和心智活動，進而支配人的行為的信息加工過程，應用量子理論的數學形式為語言符 號、人類記憶符號、演繹推理、人類判斷邏輯等，以突破傳統認知科學的障礙。量子認知計算構架如圖 6 所示。
從上圖可知，為了實現智能認知，主要有 3 部分組成，以基礎學科為依托，通過認知計算算法使得 機器計算能力更強，認知計算更廣，與量子科學中的量子算法相結合，從而使得量子認知計算的功能接 近于人類的認知功能。將量子認知計算技術應用到智能武器裝備，實現智能武器裝備具備認知功能是現 今研究的課題之一。
4.2.2. 智能決策系統
未來戰場必將是智能化的戰場，智能決策在智能武器裝備中起著關鍵性的作用。智能決策主要分為 3 個層次：人來決策、輔助決策、機器自主決策。人來決策的主體是人，戰時狀態下，通過遠程操控， 由人來做出決策。輔助決策是人通過借助外在智能設備做出科學決策。最理想的狀態是機器能夠像人一 樣的智能甚至超越人的智能做出精準、高效、合理的決策。借助人工智能技術使得機器自主決策是智能 決策研究的重要方向之一。智能決策系統結構如圖 7 所示。
從圖 7 可以看出，要想實現機器自主決策，機器應當具備方法庫、數據庫、模型庫和知識庫 4 個主 要模塊。方法庫是存儲方法模塊的系統，有各種為了解決問題的算法組成；數據庫是收集數據信息、存 儲數據信息和加工處理數據信息的模塊系統；模型庫存儲著各種模型，用于支持決策系統；知識庫是對 輸入和輸出智能系統的信息數據進行編碼和解碼，包括知識定量和定性的表示，知識表達，知識推理決 策等。4 個主要模塊相互作用，從而實現對問題的智能決策。智能決策算法模型是目前研究的重要課題 之一[30]。人工智能技術中，馬爾可夫決策算法和決策樹算法是典型的代表。
4.3. 分布式作戰或蜂群作戰技術
分布式作戰包括空中分布式作戰、陸路分布式作戰、海上分布式殺傷、水下分布式作戰、空間分布 式結構等，蜂群作戰是一種仿照生物作戰的結構體系，如圖 9 所示。圖 9 作為一個分布式作戰體系結構，由一個指揮中心控制多個智能體，這里用智能體 1、2、3、4、 5 表示。每一個或多個智能體與指揮中心之間、多個智能體之間相互關聯，協同作戰，包括自主攻擊、 智能規避威脅、信息數據高速傳輸與共享等，形成一個亂中有序的蜂群作戰模式。作戰狀態下，智能武器裝備之間不僅可以協調配合，還可以協同配合，通過自主協同、群體智能技 術提高作戰能力，具有靈活性強，對抗性強的特點。目前，分布式作戰或蜂群作戰應該在以下方面還需 取得進一步研究。一是戰場信息化網絡技術。由單一智能體轉為多智能體，智能體之間需要由協調轉為協同，在特定 戰場中，依賴于智能網絡組成的作戰體系，要求智能體之間的數據傳輸極強，實時性極高，能夠保證智 能體之間的穩定性、可靠性。二是分布式或蜂群人工智能技術。戰時狀態下智能體要具有智能定位與識別目標、智能決策、智能控 制、智能協同、智能認知、自組織等作戰能力，這就需要在分布式或蜂群人工智能技術方面取得新突破。三是分布式或蜂群協同作戰技術。分布式或蜂群作戰，每一個子成員都是一個智能體，既能夠單獨 完成任務，也可以協同自身以外的子成員完成任務，單個或多個智能體之間都具有自主控制、自主決策、 自主認知的能力，這就需要在協同作戰技術上取得新突破。四是分布式或蜂群編隊控制技術。作戰環境中，只有一定的戰術策略才能夠贏得戰場的主動權。分 布式或蜂群之間要具有極高效的控制能力，包括自主控制、障礙回避，自主威脅識別能力，需要在編隊 控制技術上取得新進展。
4.4. 作戰機器人技術
作戰機器人作為未來戰爭的主力軍，是擁有人類智慧的參戰者，從作戰指揮到協同推進，從物質運 輸到偵查勘探以及實戰進攻都扮演著重要的角色，必須具備自我認知與推理能力、定量或定性空間表示、 知識表示、智能規劃、感知與認知能力等。如圖 10 所示。圖 10 為作戰機器人的概念圖，環境為地面作戰，要求機器人之間協同配合，精準識別目標，對目標 進行精準打擊，這就需要機器人獲取外界信息和高效計算的能力，智能控制能力等。除了上述的作戰場 景的之外，智能作戰無人機、水下智能機器人、空間智能機器人等都可以在復雜不確定的環境下參與作 戰。作戰機器人技術主要包含以下方面。一是如何賦予機器人人的的智慧或者超越人的智慧。復雜的作戰環境下，要求機器人必須要有人的 感知能力、認知能力、創造力，機器人的靈活性和靈敏性必須能夠達到人的靈活性和靈敏性，應當具備 群體智能的能力。二是作戰機器人自我隱蔽技術。戰爭狀態下，要求作戰機器人要具有極強的隱蔽性，動作靈活，特 別是偵查機器人，不能夠發出噪聲。三是作戰機器人超長待機技術。戰場中環境復雜多變，機器人必須保證自己的能量不受威脅，長期 作戰情況下，機器人要具有獲取能量自我補充的能力。四是人工智能芯片技術。作戰機器人的智能芯片有待發展，智能芯片作為機器人的核心部分，需要 具備更加完備的能力。將人工智能技術應用到作戰機器人已成為該領域研究的一大方向。
5. 人工智能技術在智能武器裝備中的應用
人工智能武器應當具有機智的決策、理性的辨別目標能力，具有明辨自然語言的能力，是一種能夠 對外部環境具有極強的洞察力、實時應對各種復雜挑戰，能認知會思考的武器系統[32]。科技發展至今， 利用人工智能技術的智能武器裝備也在不斷研制和應用，例如，目前美國的聯合全域指揮控制系統 (JADC2)正處在研發階段，根據五角大樓的最新規劃，現代軍隊總參謀部的每一個組成部分，包括作戰計 劃、信息采集、情報收集、后勤與保障、通信和決策都將移交給由傳感器、計算機和軟件、算法和模型 組成的復雜集合體負責。所有這些組成部分隨后都會被整合進一個“綜合各個系統的系統”。最終，這 種多系統集合體可能會代替人類的職能，甚至超越人類所應承擔的職能，以此來代替美軍高級將領及其 資深參謀所承擔的大部分職能。如圖 11 所示。除了 JADC2 外，美軍在役或在研的智能化導彈主要有戰術戰斧、遠程反艦導彈(LRASM)、標準-3、 灰狼等，它們都是運用人工智能技術的產物，將人工智能技術應用到導彈中，使得智能導彈具備自主識 別目標和自主攻擊的能力。以下是不同的智能化導彈、類型和狀態的基本情況，如表 3 所示。在分布式作戰和蜂群作戰方面，2020 年 9 月，俄羅斯軍方采用蘇-57 戰斗機進行試驗，在真實作戰 條件下，利用一架蘇-57 戰斗機作為指揮和控制多架蘇-35 戰斗機，執行協同攻擊任務。美國軍方也正在 利用新型 F-35 戰斗機進行類似的分布式作戰或蜂群作戰試驗。另外，灰狼巡航導彈試驗成功也將具備蜂 群攻擊的能力。不過，無論是分布式作戰，還是蜂群作戰，目前還處于初級試驗階段。其核心是先進的 算法模型和合理的數據以及高效的運算能力，因此還需要不斷探究。
類似的，利用人工智能技術在軍事中的應用實例還包括在信息化武器裝備中的應用[33]、在導彈領域 的應用[34]、導彈控制技術[35]、美軍智能武器裝備的發展等[36]，雖然這些人工智能技術有些已經付諸 實踐之中，有些還在研究中，但是總體還不夠成熟，需要進一步的研究與技術突破。
付費5元查看完整內容
相關內容
摘 要
這篇文章主要側重于人工智能技術在智能武器裝備中的研究與應用。描述了人工智能的定義，人工智能技術的發展以及美國對人工智能的重視。探討了人工智能在智能武器裝備中的關鍵技術，包括目標定位與識別技術、自主攻擊技術、分布式作戰或蜂群作戰技術、作戰機器人技術等，并進一步闡述了在關鍵技術中應該突破的技術性問題。列舉了人工智能技術在智能武器裝備中的應用實例，對人工智能技術的發展作了總結與展望。
付費5元查看完整內容
主要內容
本文件按民生服務、城市治理、產業經濟和生態宜居等方面分別描述了人工智能技術的應用場景。 本文件適用于指導智慧城市場景下人工智能技術的開發與應用。
編制背景
人工智能技術作為國家“新基建”之一，是助力數字經濟發展、推動智慧和諧社會構建的重要“基石”。近年來，越來越多的人工智能技術成果被應用到我國各城市智慧城市建設的熱潮中。但由于我國智慧城市建設整體上處于起步階段，人工智能技術本身也在快速發展和完善中，很多城市對于當前人工智能技術的應用領域和功能范疇缺乏科學、全面的認識，導致規劃和應用中缺乏依據，存在盲目建設、建設困難等情況。為了避免在人工智能技術應用中產生認識模糊、建設困難、資源浪費等問題，需要通過系統有效的方法來梳理和指導人工智能技術的應用場景，確保在智慧城市場景下人工智能技術的正確開發與應用.
該標準搭建了面向智慧城市的人工智能技術應用體系，全面地考慮人工智能技術在民生服務、城市治理、產業經濟和生態宜居等智慧城市領域中的典型應用場景，為智慧城市相關規劃單位、人工智能技術應用單位提供了重要指導，有助于人工智能技術在智慧城市領域的健康發展與利用。
針對人工智能技術在智慧城市中的應用，該標準解決的主要問題如下：
（1）指導和規范人工智能技術的應用
由于我國智慧城市建設整體上處于起步階段，很多城市對于當前人工智能技術的應用領域和功能范疇缺乏科學、全面的認識，導致規劃和應用中缺乏依據，存在盲目建設、建設困難、資源浪費等問題。該標準可為智慧城市相關規劃單位、人工智能技術應用單位提供重要指導，助力城市數字經濟健康發展，推動智慧和諧社會的構建。
（2）構建人工智能技術應用體系
該標準搭建面向智慧城市的人工智能技術應用體系，全面地考慮人工智能技術在民生服務、城市治理、產業經濟和生態宜居等智慧城市領域中的典型應用場景，將有效指導智慧城市場景下人工智能技術的開發與應用。
產業化情況、推廣應用論證和預期達到的經濟效果
在標準研制與發布實施過程中，通過加強標準宣貫解讀、應用實施與推廣工作，支撐人工智能相關產業健康發展。目前依托全國信標委智慧城市標準工作組以及編制組內華為、騰訊云、浪潮等單位，本標準在上海、深圳、濟南等城市已進行了初步驗證，標準內容中針對智慧城市場景下人工智能技術的應用場景分類和描述較為科學合理，能夠進一步推廣和應用實施。
付費5元查看完整內容
摘要
在大數據時代下,深度學習理論和技術取得的突破性進展,為人工智能提供了數據和算法層面的強有力 支撐,同時促進了深度學習的規模化和產業化發展.然而,盡管深度學習模型在現實應用中有著出色的表現,但 其本身仍然面臨著諸多的安全威脅.為了構建安全可靠的深度學習系統,消除深度學習模型在實際部署應用中的潛在安全風險,深度學習模型魯棒性分析問題吸引了學術界和工業界的廣泛關注,一大批學者分別從精確和 近似的角度對深度學習模型魯棒性問題進行了深入的研究,并且提出了一系列的模型魯棒性量化分析方法. 在本綜述中,我們回顧了深度學習模型魯棒性分析問題當前所面臨的挑戰,并對現有的研究工作進行了系統的總結和科學的歸納,同時明確了當前研究的優勢和不足,最后探討了深度學習模型魯棒性研究以及未來潛在的研究方向.
引言
受益于計算力和智能設備的飛速發展，全世界正在經歷第三次人工智能浪潮。人工智能以計算機 視覺、序列處理、智能決策等技術為核心在各個應 用領域展開，并延伸到人類生活的方方面面，包括 自適應控制[1]、模式識別[2]、游戲[3]以及自動駕駛[4] 等安全攸關型應用。例如，無人駕駛飛機防撞系統 （Aircraft Collision Avoidance System, ACAS）使用 深度神經網絡根據附近入侵者飛機的位置和速度 來預測最佳行動。然而，盡管深度神經網絡已經顯 示出解決復雜問題的有效性和強大能力，但它們僅 限于僅滿足最低安全完整性級別的系統，因此它們 在安全關鍵型環境中的采用仍受到限制，主要原因 在于在大多數情況下神經網絡模型被視為無法對 其預測行為進行合理解釋的黑匣子，并且在理論上難以證明其性質。
隨著深度學習的對抗攻擊領域日益廣泛，對抗 樣本的危險性日益凸顯[7,12,13]，即通過向正常樣例中添加精細設計的、人類無法感知的擾動達到不干 擾人類認知卻能使機器學習模型做出錯誤判斷。以圖像分類任務為例，如圖 1 所示，原始樣本以 57.7% 的置信度被模型分類為“熊貓”,而添加對抗擾動之 后得到的樣本則以 99.3%的置信度被錯誤地分類為 “長臂猿”，然而對于人而言，對抗樣本依然會被 視為熊貓。由于這種細微的擾動通常是人眼難以分辨的，因而使得攻擊隱蔽性極強、危害性極大，給 ACAS 等安全攸關型應用中部署的深度學習模型帶 來了巨大的安全威脅。
為了防御對抗樣本攻擊，研究者進行了一系列的防御方法探索[5-11]。然而，即使是被廣泛認可并且迄今為止最成功的?∞防御[5]，它的?0魯棒性比未防御的網絡還低，并且仍然極易受到?2的擾動影響[14]。這些結果表明，僅對對抗攻擊進行經驗性的防御無法保證模型的魯棒性得到實質性的提升，模型的魯棒性需要一個定量的、有理論保證的指標進行評估。因此，如果要將深度學習模型部署到諸如自 動駕駛汽車等安全攸關型應用中，我們需要為模型 的魯棒性提供理論上的安全保證，即計算模型的魯 棒性邊界。模型魯棒性邊界是針對某個具體樣本而 言的，是保證模型預測正確的條件下樣本的最大可 擾動范圍，即模型對這個樣本的分類決策不會在這 個邊界內變化。具體地，令輸入樣本??的維度為??， 輸出類別的個數為??，神經網絡模型為??: ??? → ???， 輸入樣本的類別為 ?? = ???????????? ???? ?? ,?? = 1,2, … ,??，在???空間假設下，模型對??提供?-魯棒性 保證表明模型對??的分類決策不會在這個樣本???空 間周圍?大小內變化。
在本文中，我們首先闡述了深度學習模型魯棒性分析現存的問題與挑戰，然后從精確與近似兩個角度對現有的魯棒性分析方法進行系統的總結和科學的歸納，并討論了相關研究的局限性。最后，我們討論了深度學習模型魯棒性分析問題未來的研究方向。
問題與挑戰
目前，深度神經網絡的魯棒性分析問題的挑戰主要集中在以下幾個方面：
（1）神經網絡的非線性特點。由于非線性激 活函數和復雜結構的存在，深度神經網絡具有非線 性、非凸性的特點，因此很難估計其輸出范圍，并 且驗證分段線性神經網絡的簡單特性也已被證明 是 NP 完全問題[15]。這一問題的難點在于深度神經 網絡中非線性激活函數的存在。具體地，深度神經 網絡的每一層由一組神經元構成，每個神經元的值 是通過計算來自上一層神經元的值的線性組合，然 后將激活函數應用于這一線性組合。由于這些激活 函數是非線性的，因此這一過程是非凸的。以應用 最為廣泛的激活函數 ReLU 為例，當 ReLU 函數應 用于具有正值的節點時，它將返回不變的值，但是 當該值為負時，ReLU 函數將返回 0。然而，使用 ReLU 驗證 DNN 屬性的方法不得不做出顯著簡化 的假設，例如僅考慮所有 ReLU 都固定為正值或 0 的區域[16]。直到最近，研究人員才能夠基于可滿足 性模理論等形式方法，對最簡單的 ReLU 分段線性 神經網絡進行了初步驗證[15,21]。由于可滿足性模理 論求解器難以處理非線性運算，因此基于可滿足性 模理論的方法通常只適用于激活函數為分段線性的神經網絡，無法擴展到具有其它類型激活函數的神經網絡。
（2）神經網絡的大規模特點。在實際應用中， 性能表現優秀的神經網絡通常具有大規模的特點。因此，盡管每個 ReLU 節點的線性區域可以劃分為 兩個線性約束并有效地進行驗證，但是由于線性片 段的總數與網絡中節點的數量成指數增長[17,18]，對 整個網絡進行精確驗證是非常困難的。這是因為對 于任何大型網絡，其所有組合的詳盡枚舉極其昂 貴，很難準確估計輸出范圍。此外，基于可滿足性 模理論的方法嚴重受到求解器效率的限制，僅能處 理非常小的網絡（例如，只有 10 到 20 個隱藏節點 的單個隱藏層[20]），無法擴展到大多數現實世界中 的大型網絡，而基于采樣的推理技術（例如黑盒蒙 特卡洛采樣）也需要大量數據才能在決策邊界上生 成嚴格的準確邊界[19]。
總之，由于不同學者所處的研究領域不同，解 決問題的角度不同，所提出的魯棒性分析方法也各 有側重，因此亟需對現有的研究工作進行系統的整 理和科學的歸納、總結、分析。典型的模型魯棒性 分析方法總結如表 1 所示。目前的模型魯棒性分析 方法主要分為兩大類：（1）精確方法：可以證明精 確的魯棒性邊界，但計算復雜度高，在最壞情況下 計算復雜度相對于網絡規模是成指數增長的，因此 通常只適用于極小規模的神經網絡；（2）近似方法：效率高、能夠擴展到復雜神經網絡，但只能證明近似的魯棒性邊界。
精確方法
精確方法主要是基于離散優化 （DiscreteOptimization）理論來形式化驗證神經網 絡中某些屬性對于任何可能的輸入的可行性，即利 用可滿足性模理論（Satisfiability Modulo Theories, SMT）或混合整數線性規劃（Mixed Integer Linear Programming, MILP）來解決此類形式驗證問題。這 類方法通常是通過利用 ReLU 的分段線性特性并在 搜索可行解時嘗試逐漸滿足它們施加的約束來實 現的。圖 2 梳理了典型模型魯棒性精確分析方法的 相關研究工作。
近似方法
由于在??? ? ????????假設空間內，對于激活函數為 ReLU 的神經網絡，計算其精確的魯棒性邊界是一 個 NP 完備（NP-Complete，NPC）問題[15]，因此大 多數研究者通常利用近似方法計算模型魯棒性邊 界的下界，下文提到模型魯棒性邊界時通常也指的 是這個下界。此外，對抗攻擊[12]可以得到模型魯棒 性邊界的上界[24]。因此，精確的模型魯棒性邊界可 以由上界和下界共同逼近。這類方法通常基于魯棒 優化思想，通過解決公式（1）的內層最大化問題 來估計模型魯棒性邊界：
其中，??代表正常樣本，?? 代表對抗樣本，???? (??)代 表對抗樣本可能存在的范圍，??代表樣本真實標簽， ????代表以θ為參數的模型，??代表損失函數。圖 3 梳 理了典型模型魯棒性近似分析方法的相關研究工 作。
未來研究方向
本文介紹了模型魯棒性分析問題的背景與挑戰，探討了相關定義，進而對目前主流的模型魯棒性方法與性能做了介紹。從目前已有的相關方法來 看，我們認為今后對模型魯棒性分析方法的研究， 將主要圍繞以下幾個方向展開：
（1）進一步拓展對抗擾動的類型。從攻擊者 添加擾動的類型來看，現存的大多數模型魯棒性方 法都是針對在像素點上添加擾動的對抗攻擊進行 的魯棒性分析，然而在實際中，對抗性圖像有可能 經過旋轉、縮放等幾何變換，而現存大多數方法無 法擴展到此類變換。雖然 Balunovic 等人提出的 DeepG[102]初步嘗試了將抽象解釋的思想用于分析 幾何變換對抗攻擊的模型魯棒性空間，但是這個方 向仍然值得更多深入研究，進一步提升精度和可擴展性。
（2）不同魯棒性類型之間的平衡。輸入樣本?? 的局部魯棒性（即神經網絡應為以??為中心的半徑 為?的球中的所有輸入產生相同的預測結果）依賴 于在輸入空間上定義的合適的距離度量標準，在實 際中，對于在非惡意環境中運行的神經網絡而言， 這可能是太過苛刻的要求。同時，由于僅針對特定 輸入定義了局部魯棒性，而對于未考慮的輸入不提 供保證，因此局部魯棒性也具有固有的限制性。全 局魯棒性則通過進一步要求輸入空間中的所有輸 入都滿足局部魯棒性來解決這個問題。除了在計算 上難以控制之外，全局魯棒性仍然太強而無法實際 使用。因此，在實際中如何更好地平衡局部魯棒性 與全局魯棒性，仍然是一個亟待解決的挑戰。
（3）進一步提升模型魯棒性驗證方法。從實 證結果來看，大多數基于經驗的防御方法非常容易 被更強的攻擊所攻破，而其他魯棒性分析方法在很 大程度上取決于神經網絡模型的體系結構，例如激 活函數的種類或殘差連接的存在。相比之下，隨機 平滑不對神經網絡的體系結構做任何假設，而僅依 靠在噪聲假設下傳統模型進行良好決策的能力，從 而將魯棒分類問題擴展為經典監督學習問題，可用 于社區檢測[103]等任務。因此，基于隨機平滑的魯 棒性分析方法可能是研究模型魯棒空間的最有前 途的方向之一。此外，由于基于概率的方法具有更 寬松的魯棒性定義，更有可能被實用的神經網絡所 滿足和驗證，因此在合適的擾動分布假設下也是較 有前景的方向之一。
（4）研究可證明魯棒模型訓練方法。此外， 如何訓練對對抗性擾動具有可證明魯棒的神經網 絡以及如何訓練更容易驗證魯棒性的神經網絡，也 是未來的研究方向之一。目前研究者在這個方向進 行的初步探索包括利用正則化技術將模型的形式 化魯棒邊界與模型的目標函數結合起來[104]、經驗 性對抗風險最小化（Empirical Adversarial Risk Minimization，EARM）[36,105]、隨機自集成[106]、剪 枝[82,107]以及改善神經網絡的稀疏性[108]。但是現存 技術主要集中于圖像領域，難以擴展到惡意軟件等 安全攸關型應用，并且仍然存在精度以及可擴展性 上的不足，需要進一步的深入研究。
付費5元查看完整內容
隨著人工智能技術的發展，機器智能得到了飛速的提升，但仍與人腦所具備的自主意識和思考創新能力有著很大的差距。另一方面，隨著腦科學的深入研究，人們對人類智能的認知與神經科學基礎有了更好的理解，這可以啟發并進一步提升機器的智能。人工智能和腦科學的交叉融合發展為機器智能與人類智能的融合提供了可能。
因此，在可預見的未來，人類智能與機器智能將逐步融為一體，充分發揮機器的存儲和運算能力，融合人腦的思維與創新能力，以推動人工智能達到一個更高的層次——腦機智能融合。
實現腦機智能融合的關鍵技術環節之一是實現人腦與機器之間的信息交互，即腦機接口（Brain-computerinterface, BCI）技術。腦機接口在大腦與外部環境之間建立一種全新的不依賴于外周神經和肌肉的交流與控制通道，從而實現大腦與外部設備的直接交互。該技術能夠在人（或其他動物）腦與外部環境之間建立溝通以達到控制設備的目的，進而起到監測、替代、改善/恢復、增強、補充的作用。
近年來，世界各國逐漸重視腦科學研究，相繼啟動各自的腦科學相關科技規劃，全球范圍內大量投入對腦科學研究，這些能夠極大地增進人類對大腦如何工作以及如何治療腦部疾病的理解。
腦機接口是腦科學和類腦智能研究的重要方向，已上升為國家的科技戰略重點或力推的核心科技發展領域。隨著神經科學、生物兼容性材料、傳感器、大數據和人工智能等技術的進步，以及以Neuralink 等創新技術投資公司為代表的全新研究力量的加入，腦機接口技術進入了快速發展階段，在信號獲取和處理、解碼算法和系統實現等關鍵技術領域取得了很多突破性進展。
付費5元查看完整內容
人工神經網絡與其他學科領域聯系日益緊密，人們通過對人工神經網絡層結構的探索和改進來解決各個領域的問題。根據人工神經網絡相關文獻進行分析，綜述了人工神經網絡算法以及網絡模型結構的發展史，根據神經網絡的發展介紹了人工神經網絡相關概念，其中主要涉及到多層感知器、反向傳播神經網絡、卷積神經網絡以及遞歸神經網絡，描述了卷積神經網絡發展當中出現的部分卷積神經網絡模型和遞歸神經網絡中常用的相關網絡結構，分別綜述了各個人工神經網絡算法在相關領域的應用情況，總結了人工神經網絡的未來發展方向。
付費5元查看完整內容
工業人工智能
·
本文結合工業自動化和信息技術在工業革命中的作用以及制造與生產全流程決策、控制以及運行管理的現狀和智 能化發展方向的分析, 提出了發展工業人工智能的必要性. 通過對人工智能技術的涵義、發展簡史和發展方向的分析以及自 動化與人工智能研究與應用的核心目標、實現方式、研究對象與研究方法等方面的對比分析, 提出了工業人工智能技術的涵 義. 通過對工業人工智能和工業自動化的研究對象與研究目標對比分析, 提出了工業人工智能的研究方向和研究思路與方法。
付費5元查看完整內容
主題： 2019年人工智能的發展
摘要：
人工智能是一個很寬泛的概念，概括而言是對人的意識和思維過程的模擬，利用機器學習和數據分析方法賦予機器類人的能力。人工智能將提升社會勞動生產率，特別是在有效降低勞動成本、優化產品和服務、創造新市場和就業等方面為人類的生產和生活帶來革命性的轉變。據Sage預測，到2030年人工智能的出現將為全球GDP帶來額外14%的提升，相當于15.7萬億美元的增長。全球范圍內越來越多的政府和企業組織逐漸認識到人工智能在經濟和戰略上的重要性，并從國家戰略和商業活動上涉足人工智能。全球人工智能市場將在未來幾年經歷現象級的增長。據中國產業信息網和中國信息通信研究院數據，世界人工智能市場將在2020年達到6800億元人民幣，復合增長率達26.2%，而中國人工智能市場也將在2020年達到710億元人民幣，復合增長率達44.5%。
我國發展人工智能具有多個方面的優勢，比如開放的市場環境、海量的數據資源、強有力的戰略引領和政策支持、豐富的應用場景等，但仍存在基礎研究和原創算法薄弱、高端元器件缺乏、沒有具備國際影響力的人工智能開放平臺等短板。此份報告不但對人工智能關鍵技術（計算機視覺技術、自然語言處理技術、跨媒體分析推理技術、智適應學習技術、群體智能技術、自主無人系統技術、智能芯片技術、腦機接口技術等）、人工智能典型應用產業與場景（安防、金融、零售、交通、教育、醫療、制造、健康等）做出了梳理，而且同時強調人工智能開放平臺的重要性，并列舉百度Apollo開放平臺、阿里云城市大腦、騰訊覓影AI輔診開放平臺、科大訊飛智能語音開放創新平臺、商湯智能視覺開放創新平臺、松鼠AI智適應教育開放平臺、京東人工智能開放平臺NeuHub、搜狗人工智能開放平臺等典型案例呈現給讀者。最后，列舉國內外優秀的人工智能公司與讀者共勉。隨著技術的進步、應用場景的豐富、開放平臺的涌現和人工智能公司的創新活動，我國整個人工智能行業的生態圈也會逐步完善，從而為智慧社會的建設貢獻巨大力量。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191