亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

在深度學習重新崛起（2012 年）之后的 5 年里，深度學習取得了長足進步，但其中很大一部分成功是通過在標注數據上對深度神經網絡進行大規模訓練取得的。遷移學習被普遍使用，但實際上，人們對如何有效微調預訓練模型（如在 ImageNet 上預訓練的模型[8]）并不十分了解。例如，這些方法很容易受到源數據集數據分布變化（領域變化）的影響，而且在遇到新問題時，往往不清楚從哪里轉移。雖然早期開發的方法涉及無監督、半監督、領域適應和少量學習（包括由該團隊開發的方法），但它們只解決了現實世界中的小部分問題，在實踐中往往無法擊敗僅靠遷移學習的強大基線[9]。

從那時起，情況發生了翻天覆地的變化，該計劃以及整個社區開發的方法使得大規模無標記預訓練與半監督學習相結合，顯著提高了低標記條件下的性能。研究團隊為這項工作做出了巨大的貢獻，從對問題的科學表述和理解，到實用算法的開發，這些算法在既有的學術數據集和評估中都表現出色。

通過使用圖表示法明確表示數據流形的結構來看待這些低標記問題。通過這一視角，提出了一系列創新方案，以回答傳輸什么、如何傳輸以及從哪里傳輸等問題。特別開發了以下方法：1）通過 "特征匹配"（FeatMatch）[13]利用數據流形結構；2）通過 "流形傳輸操作符"（Manifold Transport Operators）[14, 15, 16, 17, 18]利用數據流形結構；3）針對 "零鏡頭學習"（Zero-Shot Learning）的半監督聚類和檢索[19]；4）通過檢索進行低標簽字幕制作[20, 21]；5）通過 "交叉匹配"（Cross-Match）進行半監督對象檢測；6）在主動學習（Active Learning）方面取得進展。

研究提出的方法已在頂級會議上發表，包括 CVPR、ECCV、NeurIPS ICML、AAAI、UAI 和 TMLR。還產生了重大的實際影響，并開源了許多與論文相關的資源庫，這些資源庫擁有數百顆星，并被廣泛使用。最后，方法在 DARPA 獨立評估中取得了優異成績，經常是表現最好的方法之一。

圖 1：用于系統研究語義轉換（即不同標簽空間）和非語義轉換（即不同模態）的設置。使用一個共同的目標集，可以單獨研究其中一種類型的轉換，也可以同時研究兩種類型的轉換。

近年來，人工智能（AI）系統有了長足的進步，其功能也在不斷擴展。特別是被稱為 "生成式模型 "的人工智能系統在自動內容創建方面取得了巨大進步，例如根據文本提示生成圖像。其中一個發展尤為迅速的領域是能夠生成原始語言的生成模型，這可能會給法律和醫療保健等多個領域帶來益處。

不過，生成式語言模型（簡稱 "語言模型"）也可能存在負面應用。對于希望傳播宣傳信息--旨在塑造觀念以促進行為者利益的惡意行為者來說，這些語言模型帶來了自動創建有說服力和誤導性文本以用于影響力行動的希望，而不必依賴人力。對社會而言，這些發展帶來了一系列新的擔憂：那些試圖暗中影響公眾輿論的人可能會開展高度可擴展、甚至極具說服力的活動。

本報告旨在評估：語言模型的變化會如何塑造影響力行動，以及可以采取哪些措施來減輕這些威脅？由于人工智能和影響力行動都在迅速變化，這項任務本質上是推測性的。

作者于 2021 年 10 月召集了 30 位人工智能、影響力行動和政策分析領域的專家，討論語言模型對影響力行動的潛在影響，該研討會為報告中的許多觀點提供了參考。由此產生的報告并不代表研討會與會者的共識。

希望這份報告對那些對新興技術的影響感興趣的虛假信息研究人員、制定政策和投資的人工智能開發人員以及準備應對技術與社會交叉領域的社會挑戰的政策制定者有所幫助。

語言模型在影響力行動方面的潛在應用

分析了生成式語言模型對影響力行動三個眾所周知的方面——發起行動的行為體、作為戰術的欺騙行為以及內容本身——的潛在影響，并得出結論：語言模型可能會極大地影響未來影響力行動的發起方式。表 1 總結了這些變化。

語言模型有可能以較低的成本與人類撰寫的內容相媲美，這表明這些模型與任何強大的技術一樣，可以為選擇使用它們的宣傳者提供獨特的優勢。這些優勢可以擴大與更多行為者的接觸，實現新的影響策略，并使競選活動的信息傳遞更有針對性和潛在的有效性。

表 1：語言模型如何塑造影響力行動

1、行為體

由于生成AI文本的潛在變化

• 涌現出更多和更多樣化的行為體。
• 外包公司變得更加重要。

對變化的解釋

• 隨著生成式模型降低宣傳成本，更多行為體可能會發現開展影響力行動的吸引力。
• 自動生成文本的雇傭宣傳者可能會獲得新的競爭優勢。

2、行為

由于生成AI文本的潛在變化

• 內容制作自動化可擴大宣傳活動的規模。
• 現有行為變得更有效率。
• 新策略層出不窮

對變化的解釋

• 文本自動生成后，宣傳活動將更容易擴大規模。
• 有了語言模型，跨平臺測試等昂貴的策略可能會變得更便宜
• 語言模型可實現動態、個性化和實時內容生成，如一對一聊天機器人。

3、內容

由于生成AI文本的潛在變化

• 信息更可信、更有說服力。
• 宣傳不易被發現。

對變化的解釋

• 與缺乏目標語言或文化知識的宣傳人員撰寫的文本相比，生成式模型可以改進信息傳遞。
• 現有的宣傳活動經常因使用復制粘貼文本（copypasta）而被發現，但語言模型可以制作出語言獨特的信息。

影響力行動的進展和關鍵未知因素

語言模型的技術進步不可能停止，因此任何試圖了解語言模型將如何影響未來影響行動的嘗試都需要考慮到預期的進步。語言模型可能會變得更加可用（使模型更容易應用于任務）、可靠（減少模型產生明顯錯誤輸出的機會）和高效（提高應用語言模型進行影響行動的成本效益）。

這些因素促使我們做出高度自信的判斷，即語言模型在未來的影響力行動中將大有用武之地。然而，其應用的確切性質尚不明確。

有幾個關鍵的未知因素將塑造影響力行動如何以及在多大程度上采用語言模型。這些未知因素包括：

• 哪些新的影響力能力將作為善意研究的副作用而出現？傳統的研究過程以更廣泛的語言任務為目標，其結果是產生了可應用于影響力行動的系統。未來可能會出現新的能力，如制作長篇有說服力的論據。這些新出現的能力很難通過生成模型來預測，但可以決定宣傳人員將使用語言模型來執行哪些具體任務。

• 為影響力行動設計特定的語言模型是否比應用通用模型更有效？雖然目前大多數模型都是為通用任務或具有科學或商業價值的任務而建立的，但宣傳人員可以建立或調整模型，使其直接用于說服和社會工程等任務。例如，宣傳人員可以對一個較小、能力較弱的模型進行調整，這一過程被稱為微調。這很可能比建立一個更大、更通用的模型更便宜，盡管還不能確定會便宜多少。此外，對最先進的模型進行微調可以使宣傳者更容易獲得新的影響能力。

• 隨著時間的推移，參與者是否會對語言模型進行大量投資？如果許多參與者都投資并創建了大型語言模型，這將增加宣傳者獲取語言模型（合法或通過盜竊）的可能性。宣傳者本身也可以投資創建或微調語言模型，納入定制數據--如用戶參與數據--以優化其目標。

• 政府或特定行業是否會制定禁止將模型用于宣傳目的的規范？正如使用規范會限制其他技術的濫用一樣，它們也可能會限制語言模型在影響力行動中的應用。一個同意不將語言模型用于宣傳目的的國家聯盟可以讓那些不遵守的國家付出代價。在次國家層面，研究團體和特定行業可以制定自己的規范。

• 何時才能公開提供易于使用的文本生成工具？語言模型的熟練使用仍然需要操作知識和基礎設施。易于使用的工具可以生成推文或段落長度的文本，這可能會讓缺乏機器學習知識的現有宣傳人員依賴語言模型。

由于這些關鍵的可能性可能會改變語言模型對影響力行動的影響，因此為減少不確定性而開展更多研究是非常有價值的。

如何減輕潛在威脅？

在2021 年 10 月召開的研討會的基礎上，對現有的大量文獻進行了調查、 試圖為各種可能的緩解戰略提供一個殺傷鏈框架，并對其類型進行調查。目的不是認可具體的緩解策略，而是展示緩解策略如何針對影響力行動流水線的不同階段。

表 2：緩解措施實例摘要

宣傳者的要求

1.能夠生成真實文本的語言模型

2.可靠地獲取此類模型

3.分發生成內容的基礎設施

4.易受影響的目標受眾

干預階段

1.模型設計與制作

2.模型接入

3.內容傳播

4.信念形成

說明性的緩解措施

1.1 人工智能開發人員建立對事實更敏感的模型
1.2 開發人員傳播擴散性數據，使生成模型可被檢測到
1.3 對數據收集施加限制
1.4 對人工智能硬件實施訪問控制
2.1 人工智能供應商對語言模型實施更嚴格的使用限制
2.2 人工智能開發者圍繞模型發布制定新規范
3.1 平臺和人工智能供應商協調識別人工智能內容
3.2 平臺要求發布"個人身份證明"
3.3 依賴公眾意見的實體采取措施減少誤導性人工智能內容的風險
3.4 數字出處標準得到廣泛采用
4.1 機構參與媒體掃盲運動
4.2 開發人員提供以消費者為中心的人工智能工具

上表表明，沒有什么靈丹妙藥能徹底消除影響力行動中語言模型的威脅。一些緩解措施可能在社會上不可行，而另一些則需要技術突破。還有一些可能會帶來不可接受的負面風險。相反，要有效減輕威脅，很可能需要一種結合多種緩解措施的全社會方法。

此外，有效的管理還需要不同機構之間的合作，如人工智能開發者、社交媒體公司和政府機構。只有這些機構通力合作，許多建議的緩解措施才能產生有意義的影響。除非社交媒體公司能與人工智能開發人員合作，將文本歸屬于某個模型，否則他們很難知道某個虛假信息活動是否使用了語言模型。最激進的緩解措施--比如在互聯網協議中加入內容出處標準--需要極度的協調，如果它們是可取的話。

也許最重要的是，強調的緩解措施需要更多的開發、審查和研究。對其有效性和穩健性的評估值得認真分析。

圖 4：人工智能賦能的影響力行動的干預階段。為了阻止宣傳者利用語言模型實施影響力行動，可針對以下四個階段采取緩解措施：(1) 模型設計與構建；(2) 模型獲取；(3) 內容傳播；(4) 信念形成。最終，在這些階段進行干預可減輕影響行動的直接和間接影響。

最近，語義技術和人工智能（AI）的結合為構建能夠識別更精確結果的智能系統提供了新的技術。語義人工智能在知識圖譜中處于這一創新發展的前沿，通過圖形映射或基于語料庫的本體學習，揭示了機器學習在擴展知識圖譜中的作用。通過符號AI和統計AI的結合，如基于機器學習的實體提取、文本挖掘方法、語義知識圖譜和相關推理能力，確保高效的結果。本書是首次探索語義人工智能和知識圖譜的著作。內容涵蓋了從神經符號AI、可解釋AI和深度學習到知識發現與挖掘，以及知識表示與推理等多個主題。作為對人工智能和數據挖掘領域的研究人員和初學者學者的重要貢獻，本書是對語義人工智能在知識圖譜中的開創性探索。

機器學習幾乎存在于日常生活的每個方面。大量的數據是需要的，但對于特定的問題卻并不總是可用的，這就排除了諸如深度學習和卷積神經網絡等先進方法的使用。歐幾里得網絡（EN）可以用來緩解這些問題。EN被徹底測試，以證明其作為分類算法的可行性，以及其方法可用于增強數據和轉換輸入數據以增加其特征空間維度。最初，人們假設EN可以用來合成數據以增加數據集，盡管這種方法被證明是無效的。下一個研究領域試圖擴大輸入特征空間的維度，以提高額外分類器的性能。這一領域顯示了積極的結果，這支持了更復雜、更密集的輸入將使算法對數據有更多的洞察力并提高性能的假設。人們發現EN作為一個獨立的分類器表現特別好，因為它在21個數據集中的12個取得了最高的準確性。對于剩下的9個，雖然它沒有最高的準確率，但EN的表現與更復雜的算法相當。事實證明，EN還能夠擴大數據集的特征空間，以進一步提高性能。這種策略提供了一種更穩健的分類技術，并在所有數據集之間看到了平均3%的準確性。

雖然深度強化學習(RL)在機器學習領域取得了多項引人注目的成功，但由于其通常較差的數據效率和所產生的策略的有限通用性，它未能得到更廣泛的采用。緩解這些限制的一個有希望的方法是，在稱為元強化學習的過程中，將更好的強化學習算法的開發本身視為一個機器學習問題。元強化學習最常在問題環境中進行研究，在給定任務分布的情況下，目標是學習一種策略，該策略能夠從盡可能少的數據的任務分布中適應任何新任務。**本文詳細描述了元強化學習問題的設置及其主要變化。**本文討論了如何在高層次上基于任務分布的存在和每個單獨任務的可用學習預算對元強化學習研究進行聚類。使用這些聚類，綜述了元強化學習算法和應用。最后，提出了使元強化學習成為深度強化學習從業者標準工具箱一部分的道路上的開放問題。

//www.zhuanzhi.ai/paper/bbd26798bcb89638b3308c8dfc2a8e20

**1. 引言****元強化學習(Meta-reinforcement learning, meta-RL)是一種學習強化學習的機器學習(machine learning, ML)方法。**也就是說，元強化學習使用樣本效率低的機器學習來學習樣本效率高的強化學習算法或其組件。因此，元強化學習是元學習[225,91,94]的特殊情況，其學習算法是強化學習算法。元強化學習作為一個機器學習問題已經被研究了很長一段時間[197,199,224,198]。有趣的是，研究也顯示大腦中存在meta-RL的類似物[238]。Meta-RL有潛力克服現有人類設計的RL算法的一些限制。雖然在過去幾年中，深度強化學習取得了重大進展，例如掌握圍棋游戲[209]、平流層氣球導航[21]或機器人在挑戰性地形中的運動[148]等成功故事。RL的采樣效率仍然很低，這限制了它的實際應用。元強化學習可以產生比現有強化學習方法更有效的強化學習算法(組件)，甚至可以為以前難以解決的問題提供解決方案。與此同時，提高樣本效率的承諾伴隨著兩個成本。首先，元學習需要比標準學習多得多的數據，因為它訓練整個學習算法(通常跨多個任務)。其次，元學習使學習算法適應元訓練數據，這可能會降低其對其他數據的泛化能力。因此，元學習提供的權衡是提高測試時的樣本效率，代價是訓練時的樣本效率和測試時的通用性。示例應用程序考慮使用機器人廚師進行自動化烹飪的任務。當這樣的機器人部署在某人的廚房時，它必須學習一個特定于廚房的策略，因為每個廚房都有不同的布局和設備。由于在訓練早期的隨機行為，直接在一個新的廚房中從頭開始訓練機器人太耗時，并且有潛在的危險。一種選擇是在單個訓練廚房中對機器人進行預訓練，然后在新的廚房中對其進行微調。然而，這種方法沒有考慮到后續的微調過程。相比之下，元強化學習將在訓練廚房的分布上訓練機器人，以便它可以適應該分布中的任何新廚房。這可能需要學習一些參數以實現更好的微調，或者學習將部署在新廚房中的整個強化學習算法。通過這種方式訓練的機器人既可以更好地利用收集的數據，也可以收集更好的數據，例如，通過關注新廚房的不尋常或具有挑戰性的特征。這種元學習過程需要比簡單的微調方法更多的樣本，但它只需要發生一次，當部署在新的測試廚房時，由此產生的適應過程可以顯著提高樣本效率。這個例子說明，通常情況下，當需要頻繁地進行有效的自適應時，元強化學習可能特別有用，因此元訓練的成本相對較小。這包括但不限于安全關鍵的強化學習領域，在這些領域中，有效的數據收集是必要的，探索新行為的成本過高或危險。在許多情況下，大量的樣本投資低效的前期學習(在監督下，在實驗室中，或在模擬中)是值得的，以實現后續改進的適應行為。

本綜述的目的是提供一個元強化學習的入口，以及對該領域和開放研究領域的現狀的反思。在第2節中，我們定義了元強化學習和它可以應用的不同問題設置，以及兩個示例算法。在第3節中，我們考慮了元強化學習中最普遍的問題設置:少樣本元強化學習。本文的目標是學習能夠快速自適應的RL算法，即在少量的情節中學習任務。這些算法通常是在給定的任務分布上進行訓練的，并且元學習如何有效地適應該分布中的任何任務。圖1展示了一個簡單的例子來說明這個設置。在這里，智能體經過元訓練，以學習如何導航到2D平面上不同的(最初未知的)目標位置。在元測試時，該智能體能夠有效地適應目標位置未知的新任務。在第4節中，我們考慮多樣本的設置。這里的目標是學習通用的RL算法，而不是特定于狹窄的任務分布，類似于目前在實踐中使用的算法。有兩種方式:如上所述的對任務分布進行訓練，或者對單個任務進行訓練，但同時進行元學習和標準強化學習訓練。接下來，第5節介紹了元強化學習的一些應用，如機器人。最后，我們在第6節討論開放問題。這些包括對少樣本元強化學習的更廣泛任務分布的泛化，多樣本元強化學習中的優化挑戰，以及元訓練成本的減少。

這本書為醫學學生、研究人員和專業人員提供了機器學習和醫學深度學習的基礎介紹，他們不一定在高等數學入門，但渴望更好地理解這種顛覆性技術及其對醫學的影響。人工智能(AI)曾經是計算機科學和工程部門以外的少數人知道的深奧學科，今天是一項廣泛流行的技術，被學術界的所有學者使用。特別是，近年來，醫學和生命科學領域的研究人員對機器學習和深度學習這一人工智能子領域產生了極大的興趣，這可以從過去十年同行評審醫學期刊上發表的關于該主題的文章數量的快速增長中得到證明。這一領域對優質教育資源的需求從來沒有像今天這樣大，而且只會繼續快速增長。

專家作者采用一種敘事風格，強調直覺而不是抽象的數學形式主義，消除了機器學習和深度學習周圍不必要的復雜性的面紗，使他們能夠在實用性和理論的嚴謹性之間取得微妙的平衡，以促進讀者的學習體驗。書中涉及的主題包括:醫學數據的數學編碼，線性回歸和分類，非線性特征工程，深度學習，卷積和循環神經網絡，強化學習。每一章以練習集結束，供讀者練習和測試他們的知識。

對于有興趣了解更多關于機器學習和深度學習的醫學學生、專業人士和研究人員來說，這是一個理想的介紹。在本科階段至少學過一門數學導論課程的讀者(例如，生物統計學或微積分)將能夠很好地使用本書，而不需要任何額外的先決條件。

//link.springer.com/book/10.1007/978-3-031-19502-0

近年來，針對工業生態系統的高級持續性威脅（APT）的復雜性急劇增加。這使得開發超越傳統解決方案的高級安全服務成為必須，輿論動力學（Opinion Dynamics）就是其中之一。這種新穎的方法提出了一個多智能體協作框架，允許跟蹤APT的整個生命周期。在本文中，我們介紹了TI&TO，這是一個攻擊者和防御者之間的雙人博弈，代表了一個現實的場景，雙方都在爭奪現代工業結構中的資源控制權。通過使用博弈論來驗證這種技術，我們證明，在大多數情況下，輿論動力學包括有效的第一項措施，以阻止和減少APT對基礎設施的影響。為了實現這一目標，攻擊者和防御者的模型都被標準化，并應用了一個公平的評分系統，后者用不同的策略和網絡配置運行了幾個模擬測試案例。

引言

世界各地的公司面對的網絡安全攻擊數量明顯增長，導致了巨大的經濟損失[2]。當涉及到關鍵的基礎設施（即核電站、電網、運輸和制造系統）時，這種情況變得更加嚴重，其工業控制系統必須在所有條件下保持工作。在這里，我們處理的是SCADA（監督控制和數據采集）系統，幾十年來一直在與外部網絡隔離的情況下工作；反過來，如今它們正越來越多地整合新技術，如物聯網（IoT）或云計算，在削減成本的同時外包各種服務。因此，需要做出更大的努力來跟上這種進步，以應對這些系統可能帶來的最新的攻擊載體和可利用的漏洞。

近年來最關鍵的問題之一是高級持續性威脅（APTs），這是一種復雜的攻擊，特別是針對目標基礎設施，由一個資源豐富的組織實施。它們的特點是利用零日漏洞（零時差攻擊），采用隱蔽技術，使威脅在受害者網絡中長期無法被發現。Stuxnet是第一個報道的這種性質的威脅[6]，但許多其他的威脅在之后被發現，通常是在攻擊完全執行后的幾個月[7]。在網絡安全方面，只是提出了一些機制來從整體上解決這個問題，超越了傳統的機制（如防火墻、入侵防御系統（IPS）、入侵檢測系統（IDS）、防病毒），這些機制只代表了在第一階段對APT的準時保護[21]。

在這些新穎的機制中，輿論動力學（Opinion Dynamics）[15]包括一個多智能體協作系統，通過分布式異常關聯，使攻擊的整個生命周期都可以被追蹤。在本文中，我們提出了一個理論但現實的方案，以證明該方法在不同類型的攻擊模式下的有效性，使用結構可控性領域[8]和博弈論[14]支持的概念。為了這個目標，我們開發了TI&TO，這是一個雙人博弈，攻擊者和防御者為控制現代工業結構中的資源而競爭。兩個玩家都有自己的動作和相關的分數，分別根據APT和基于Opinion Dynamics的檢測系統的行為。這個博弈最終在不同的模擬中運行，旨在展示算法的能力，同時也建議將該技術與其他防御方案結合起來進行最佳配置。因此，我們可以把我們的貢獻總結為：

• 正式定義TI&TO博弈，指定游戲板、每個玩家的目標和得分規則。
• 設計一個攻擊者模型，以一組階段的形式，靈活地表示APT的各個階段，以表示攻擊者的行動，這些行動受制于一個確定的分數。
• 設計一個基于使用意見動態和響應技術（即本地檢測、冗余鏈接、蜜罐）的防御者模型，以減少APT在網絡中的影響，這也意味著博弈中的相關得分。
• 進行的實驗驗證了該算法，并推薦了返回最佳結果的防御者的配置。

本文的其余部分組織如下。第2節介紹了 "輿論動力學"的概念，并強調了應用博弈論來檢測網絡攻擊的建議。在第3節中，定義了博弈，包括規則以及攻擊和防御模型。然后，進行了幾次模擬，并在第4節進行了討論。最后，在第5節中提出了結論和未來的工作。

序列標記是一個基礎性研究問題，涉及詞性標記、命名實體識別、文本分塊等多種任務。盡管在許多下游應用(如信息檢索、問題回答和知識圖譜嵌入)中普遍和有效，傳統的序列標記方法嚴重依賴于手工制作或特定語言的特征。最近，深度學習已經被用于序列標記任務，因為它在自動學習實例的復雜特征和有效地產生藝術表現的強大能力。在本文中，我們旨在全面回顧現有的基于深度學習的序列標記模型，這些模型包括三個相關的任務，如詞性標記、命名實體識別和文本組塊。然后，在科學分類的基礎上，結合SL領域中廣泛使用的實驗數據集和常用的評價指標，系統地介紹了現有的方法。此外，我們還對不同的SL模型進行了深入分析，分析了可能影響SL領域性能和未來發展方向的因素。

//arxiv.org/abs/2011.06727

序列標記是自然語言處理(NLP)中重要的一種模式識別任務。從語言學的角度來看，語言中最小的意義單位通常被認為是語素，因此每句話都可以看作是語素構成的序列。相應的，NLP領域中的序列標記問題可以將其表述為一種任務，目的是為一類在句子語法結構中通常具有相似角色和相似語法屬性的語素分配標簽，所分配標簽的意義通常取決于特定任務的類型，經典任務的例子有詞性標注[71]、命名實體識別(NER)[52]、文本分塊[65]等，在自然語言理解中起著至關重要的作用，有利于各種下游應用，如句法解析[81]、關系提取[64]和實體共指解析[78]等，并因此迅速得到廣泛關注。

通常，傳統的序列標記方法通常基于經典的機器學習技術，如隱馬爾科夫模型(HMM)[3]和條件隨機字段(CRFs)[51]，這些技術通常嚴重依賴于手工制作的特征(如一個單詞是否大寫)或特定于語言的資源(如地名詞典)。盡管實現了卓越的性能，但對大量領域知識的需求和對特征工程的努力使得它們極難擴展到新的領域。在過去的十年中，深度學習(DL)由于其在自動學習復雜數據特征方面的強大能力而取得了巨大的成功。因此，對于如何利用深度神經網絡的表示學習能力來增強序列標記任務的研究已經有了很多，其中很多方法已經陸續取得了[8]，[1]，[19]的先進性能。這一趨勢促使我們對深度學習技術在序列標記領域的現狀進行了全面的綜述。通過比較不同深度學習架構的選擇，我們的目標是識別對模型性能的影響，以便后續研究人員更好地了解這些模型的優缺點。

本綜述的目的是全面回顧深度學習在序列標記(SL)領域的最新應用技術，并提供一個全景，以啟發和指導SL研究社區的研究人員和從業者快速理解和進入該領域。具體來說，我們對基于深度學習的SL技術進行了全面的調研，并按照嵌入模塊、上下文編碼器模塊和推理模塊三個軸進行了科學的分類，系統地總結了目前的研究現狀。此外，我們還概述了序列標記領域中常用任務的實驗設置(即數據集或評價指標)。此外，我們討論和比較了最具代表性的模型給出的結果，以分析不同因素和建筑的影響。最后，我們向讀者展示了當前基于dll的序列標記方法所面臨的挑戰和開放問題，并概述了該領域的未來發展方向。

本綜述旨在全面回顧深度學習技術在序列標注中的應用，并提供一個全景視圖，以便讀者對這一領域有一個全面的了解。我們以科學的分類學對文獻進行了總結。此外，我們提供了一般研究的序列標記問題的數據集和評價指標的概述。此外，我們還討論和比較了不同模型的結果，并分析了影響性能的因素和不同架構。最后，我們向讀者展示了當前方法面臨的挑戰和開放問題，并確定了該領域的未來方向。我們希望這項調查能對序列標記感興趣的研究者、從業者和教育者有所啟發和指導。

盡管在深度學習方面取得了最近的進展，但大多數方法仍然采用類似“筒倉”的解決方案，專注于孤立地學習每個任務:為每個單獨的任務訓練一個單獨的神經網絡。然而，許多現實問題需要多模態方法，因此需要多任務模型。多任務學習(MTL)旨在利用跨任務的有用信息來提高模型的泛化能力。在這個綜述中，我們提供了一個最先進的在深度神經網絡的背景下MTL技術的全面觀點。我們的貢獻涉及以下方面。首先，我們從網絡架構的角度來考慮MTL。我們包括了一個廣泛的概述，并討論了最近流行的MTL模型的優缺點。其次，我們研究了解決多任務聯合學習的各種優化方法。我們總結了這些工作的定性要素，并探討了它們的共性和差異。最后，我們在各種數據集上提供了廣泛的實驗評估，以檢查不同方法的優缺點，包括基于架構和優化的策略。

//arxiv.org/abs/2004.13379

概述

在過去的十年中，神經網絡在許多任務中都顯示了令人印象深刻的結果，例如語義分割[1]，實例分割[2]和單目深度估計[3]。傳統上，這些任務是單獨處理的，即為每個任務訓練一個單獨的神經網絡。然而，許多現實世界的問題本質上是多模態的。例如，一輛自動駕駛汽車應該能夠檢測場景中的所有物體，定位它們，了解它們是什么，估計它們的距離和軌跡，等等，以便在它的周圍安全導航。同樣的，一個智能廣告系統應該能夠在它的視點上檢測到人們的存在，了解他們的性別和年齡，分析他們的外貌，跟蹤他們正在看的地方，等等，從而提供個性化的內容。與此同時，人類非常擅長同時解決許多任務。生物數據處理似乎也遵循多任務處理策略: 不同的處理過程似乎共享大腦中相同的早期處理層，而不是將任務分開單獨處理。上述觀察結果促使研究人員開發了多任務學習(MTL)模型，即給定一個輸入圖像可以推斷出所有所需的任務輸出。

在深度學習時代之前，MTL工作試圖對任務之間的共同信息進行建模，希望通過聯合任務學習獲得更好的泛化性能。為了實現這一點，他們在任務參數空間上放置了假設，例如:任務參數應該彼此靠近w.r.t.一些距離度量[5]，[6]，[16]0，[16]2，共享一個共同的概率先驗[16]1，[10]，[11]，[12]，[13]，或駐留在一個低維子空間[14]，[15]，[16]或流形[17]。當所有任務都是相關的[5]、[14]、[18]、[19]時，這些假設可以很好地工作，但是如果在不相關的任務之間發生信息共享，則可能導致性能下降。后者是MTL中已知的問題，稱為負轉移。為了緩解這一問題，其中一些研究人員選擇根據先前對任務的相似性或相關性的認識將任務分組。

在深度學習時代，MTL轉化為能夠從多任務監控信號中學習共享表示的網絡設計。與單任務情況下，每個單獨的任務由自己的網絡單獨解決相比，這種多任務網絡理論上給表帶來了幾個優點。首先，由于它們固有的層共享，結果內存占用大大減少。其次，由于他們明確地避免重復計算共享層中的特征，每次都要計算一次，因此他們的推理速度有所提高。最重要的是，如果相關的任務能夠分享互補的信息，或者互相調節，它們就有可能提高績效。對于前者，文獻已經為某些對任務提供了證據，如檢測和分類[20]，[21]，檢測和分割[2]，[22]，分割和深度估計[23]，[24]，而對于后者，最近的努力指向了那個方向[25]。這些工作導致了第一個深度多任務網絡的發展，歷史上分為軟或硬參數共享技術。

在本文中，我們回顧了在深度神經網絡范圍內的MTL的最新方法。首先，我們對MTL基于架構和優化的策略進行了廣泛的概述。對于每種方法，我們描述了其關鍵方面，討論了與相關工作的共性和差異，并提出了可能的優點或缺點。最后，我們對所描述的方法進行了廣泛的實驗分析，得出了幾個關鍵的發現。我們在下面總結了我們的一些結論，并提出了未來工作的一些可能性。

• 首先，MTL的性能在很大程度上取決于任務字典。它的大小、任務類型、標簽源等等，都影響最終的結果。因此，最好根據每個案例選擇合適的架構和優化策略。盡管我們提供了具體的觀察結果，說明為什么某些方法在特定設置中工作得更好，但是MTL通常可以從更深的理論理解中獲益，從而在每種情況下最大化預期收益。例如，這些收益似乎取決于多種因素，例如數據量、任務關系、噪音等。未來的工作應該嘗試分離和分析這些不同因素的影響。

• 其次，當使用單一MTL模型處理多個密集預測任務時，基于解碼器的架構目前在多任務性能方面提供了更多優勢，與基于編碼器的架構相比，其計算開銷有限。如前所述，這是由于基于解碼器的體系結構促進了常見的跨任務模式的對齊，這自然很適合密集的預測任務。基于編碼器的架構在密集預測任務設置中仍然具有一定的優勢，但其固有的層共享似乎更適合處理多個分類任務。

• 最后，我們分析了多種任務均衡策略，并分離出對任務均衡學習最有效的要素，如降低噪聲任務的權重、平衡任務梯度等。然而，許多優化方面仍然缺乏了解。與最近的研究相反，我們的分析表明避免任務之間的梯度競爭會損害性能。此外，我們的研究顯示，一些任務平衡策略仍然存在不足，突出了現有方法之間的一些差異。我們希望這項工作能促進對這一問題的進一步研究。

深度強化學習(deep reinforcement learning, DRL)方法在經濟學中的普及度呈指數級增長。DRL通過從增強學習(RL)到深度學習(DL)的廣泛功能，為處理復雜的動態業務環境提供了巨大的機會。DRL的特點是可擴展性，有可能應用于高維問題，并結合經濟數據的噪聲和非線性模式。本文首先對DL、RL和深度RL方法在經濟學中不同應用的簡要回顧，提供了對現有技術的深入了解。此外，為了突出DRL的復雜性、魯棒性、準確性、性能、計算任務、風險約束和盈利能力，還研究了DRL在經濟應用中的體系結構。調查結果表明，與傳統算法相比，DRL在面臨風險參數和不確定性不斷增加的現實經濟問題時，可以提供更好的性能和更高的精度。