監督學習在過去取得了巨大的成功，然而監督學習的研究進入了瓶頸期，因其依賴于昂貴的人工標簽，卻飽受泛化錯誤（generalization error）、偽相關（spurious correlations）和對抗攻擊（adversarial attacks）的困擾。自監督學習以其良好的數據利用效率和泛化能力引起了人們的廣泛關注。本文將全面研究最新的自監督學習模型的發展，并討論其理論上的合理性，包括預訓練語言模型（Pretrained Language Model，PTM）、生成對抗網絡（GAN）、自動編碼器及其拓展、最大化互信息（Deep Infomax，DIM）以及對比編碼（Contrastive Coding）。自監督學習與無監督學習的區別主要在于，無監督學習專注于檢測特定的數據模式，如聚類、社區發現或異常檢測，而自監督學習的目標是恢復（recovering），仍處于監督學習的范式中。下圖展示了兩者之間的區別，自監督中的“related information” 可以來自其他模態、輸入的其他部分以及輸入的不同形式。
付費5元查看完整內容
相關內容
視覺目標跟蹤指在一個視頻序列中,給定第一幀目標區域,在后續幀中自動匹配到該目標區域的任務。通常來說,由于場景遮擋、光照變化、物體本身形變等復雜因素,目標與場景的表觀會發生劇烈的變化,這使得跟蹤任務本身面臨極大的挑戰。在過去的十年中,隨著深度學習在計算機視覺領域的廣泛應用,目標跟蹤領域也迅速發展,研究人員提出了一系列優秀算法。鑒于該領域處于快速發展的階段,文中對視覺目標跟蹤研究進行了綜述,內容主要包括跟蹤的基本框架改進、目標表示改進、空間上下文改進、時序上下文改進、數據集和評價指標改進等;另外,還綜合分析了這些改進方法各自的優缺點,并提出了可能的未來的研究趨勢。
//www.jsjkx.com/CN/article/openArticlePDF.jsp?id=19761
目標跟蹤是計算機視覺領域的一項經典研究課題,目的 是在給定第一幀初始目標邊界框的情況下,在后續視頻序列 中準確定位目標(見圖１).隨著高性能移動設備與高配置攝 像機的爆炸式增長,以及新一代５G 網絡的逐步應用,人們對 自動視頻分析的需求日益增長.自動視頻分析中有３個關鍵 步驟:自動檢測感興趣的運動物體、逐幀跟蹤這些物體、通過 分析物體的軌跡來進行行為識別.目標跟蹤作為其中的一項 重要技術,引起了相關學者的極大關注[１Ｇ２].然而,視覺目標 跟蹤是一項極具挑戰性的任務,因為有一系列不同的問題需 要在單個跟蹤算法中解決.例如,跟蹤算法能很好地處理光 照變化,但是難以應對因相機角度變化而帶來的物體表觀的變化;跟蹤算法擅長準確預測物體運動,但是難以跟蹤快速彈 跳的物體;跟蹤算法能對外觀做出詳細假設,但是不能處理有 關節的物體.
目標跟蹤領域涌現出了大批經典算法[３Ｇ２１],具體如圖２所示. 本文分４個階段對目標跟蹤的發展進行綜述,即早期的目標 跟蹤探索階段、稀疏表示階段、相關濾波階段和孿生網絡階 段,主 要 介 紹 的 跟 蹤 算 法 包 括 Histogram [３],Ensemble [４], IVT [５],MIL [６],L１Tracker [７],TLD [８],MOSSE [９],Struck [１０], ASLA [１１],CT [１２],CSK (KCF)[１３],CN [１４],STC [１５],CF２ [１６]ECO [１７],SiamFC [１８],SiamRPN [１９],ATOM [２０],SiamRCNN [２１]等. 本文詳細梳理了最近幾年目標跟蹤領域的相關工作,并 將其分為了五大類:數據集和評價標準的改進、目標跟蹤基本 框架改進、目標表示的改進、空間上下文方面的改進和時序上 下文方面的改進.對上述５類工作分別進行介紹和分析之后 得出本文的結論,并提出未來目標跟蹤領域可能的發展趨勢.
付費5元查看完整內容
自監督深度學習(SSDL)方法是近年來在計算機視覺領域出現的一種很有前途的學習范式。該方法巧妙地使用密集的學習信號來構建監督學習問題，而不需要外部的人工注釋。除了視覺之外，它是一個通用框架，可以實現多種學習模式，包括深度強化學習和AlphaGo Zero的成功。在NLP中，SSDL在表示學習方面也取得了很好的效果，包括屏蔽語言模型，如BERT和XLNet。
在本教程中，我們簡要介紹了自監督深度學習的基礎，以及NLP中一些實際問題的公式和解決方案。我們描述了NLP的自監督深度學習的最新進展，特別關注于生成和語言模型。我們提供了一個研究領域的概述，分類不同類型的自監督學習模型，并討論利弊，旨在提供一些解釋和實踐的觀點，以解決現實世界的NLP問題的自監督學習的未來。
//aacl2020.org/program/tutorials/#t3-self-supervised-deep-learning-for-nlp
付費5元查看完整內容
魯棒模式識別
·
目前諸多模式識別任務的識別精度獲得不斷提升，在一些任務上甚至超越了人的水平。單從識別精度的角度來看，模式識別似乎已經是一個被解決了的問題。然而，高精度的模式識別系統在實際應用中依舊會出現不穩定和不可靠的現象。因此，開放環境下的魯棒性成為制約模式識別技術發展的新瓶頸。實際上，在大部分模式識別模型和算法背后蘊含著三個基礎假設：封閉世界假設、獨立同分布假設、以及大數據假設。這三個假設直接或間接影響了模式識別系統的魯棒性，并且是造成機器智能和人類智能之間差異的主要原因。本文簡要論述如何通過打破三個基礎假設來提升模式識別系統的魯棒性。
付費5元查看完整內容
元學習
·
本文綜述了元學習在圖像分類、自然語言處理和機器人技術等領域的應用。與深度學習不同，元學習使用較少的樣本數據集，并考慮進一步改進模型泛化以獲得更高的預測精度。我們將元學習模型歸納為三類: 黑箱適應模型、基于相似度的方法模型和元學習過程模型。最近的應用集中在將元學習與貝葉斯深度學習和強化學習相結合，以提供可行的集成問題解決方案。介紹了元學習方法的性能比較，并討論了今后的研究方向。
付費5元查看完整內容
目標檢測
·
摘要： 目標檢測算法應用廣泛,一直是計算機視覺領域備受關注的研究熱點。近年來,隨著深度學習的發展,3D圖像的目標檢測研究取得了巨大的突破。與2D目標檢測相比,3D目標檢測結合了深度信息,能夠提供目標的位置、方向和大小等空間場景信息,在自動駕駛和機器人領域發展迅速。文中首先對基于深度學習的2D目標檢測算法進行概述;其次根據圖像、激光雷達、多傳感器等不同數據采集方式,分析目前具有代表性和開創性的3D目標檢測算法;結合自動駕駛的應用場景,對比分析不同 3D 目標檢測算法的性能、優勢和局限性;最后總結了3D目標檢測的應用意義以及待解決的問題,并對 3D 目標檢測的發展方向和新的挑戰進行了討論和展望。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191