亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

計算機視覺領域的一個根本挑戰在于準確建模/表征圖像分布。例如，在高級視覺任務中，潛在空間中更好的圖像表示可以顯著增強下游任務（如圖像分類和分割）的性能。同樣，在圖像恢復中，更準確的干凈圖像分布模型（以退化圖像為條件）可以產生具有更好感知質量的結果。然而，由于圖像及其潛在代碼的高維度性，建模這些分布極具挑戰性。

在相對平行的研究方向上，深度生成模型取得了顯著進展，旨在隱式或顯式地建模圖像分布。這些模型為處理復雜分布提供了強大的工具。然而，由于不同的領域先驗和任務公式，直接應用這些模型并不可行，且會導致次優性能。如何無縫且有效地將生成模型集成到圖像恢復和表示任務中，并結合任務特定的先驗知識，仍然是一個有待進一步探索的開放領域。

本論文重點探索深度生成模型在圖像恢復和表示任務中的潛力，涵蓋從高級視覺任務（如圖像分類）到低級視覺任務（如圖像壓縮和恢復）。首先，針對圖像分類任務，我們引入了一種新穎的變分推理框架，以獲得具有增強泛化能力的潛在表示。我們使用生成對抗網絡隱式建模給定潛在代碼的圖像后驗分布，以從提供的訓練數據中解耦領域不變特征。隨后，我們探索了顯式建模后驗分布的可能性。利用歸一化流（Normalizing Flow）的能力——一種能夠獲得給定樣本確切似然的生成模型——我們將其應用于低光圖像增強（LLIE）任務，并考慮其歸納偏差。盡管基于流的模型取得了有希望的結果，但其性能受到歸一化流設計中的固有限制的約束。因此，我們深入研究了將LLIE任務的原始圖像空間先驗知識無縫集成到擴散框架中，以克服模型設計中的局限性。盡管我們的基于擴散的解決方案取得了有希望的結果，但它仍存在兩個主要局限性：首先，盡管在原始空間中增強具有獨特優勢，但原始圖像的顯著存儲開銷限制了其應用。因此，在接下來的兩項工作中，我們探索了通過準確建模圖像的潛在分布并利用自回歸模型的能力來進一步提高編碼效率的聯合壓縮方法。其次，盡管所提出的工作將推理路徑從數十或數百步縮短到僅三步（與常用的擴散模型相比），但仍需要迭代評估并導致推理開銷。在最后一項工作中，我們提出了一種加速策略，結合蒸餾策略和一種新穎的自一致性損失。我們在超分辨率任務中僅通過一步推理實現了最先進的性能，其中條件分布相對更復雜。 總的來說，本論文做出了三項主要貢獻。首先，我們展示了基于生成的圖像恢復和表示方法的有效性和獨特優勢。其次，我們提出了多種方法，將深度生成模型的能力與圖像恢復和表示任務的領域知識無縫結合。為了驗證這些方法的有效性，我們在多個數據集上進行了廣泛的實驗。實驗結果明確表明，我們的方法優于之前的最先進模型。本論文提出的努力和成就不僅強調了圖像恢復和表示技術的實際能力，還為未來的研究和行業應用提供了基礎支持。

視覺生成模型，尤其是擴散模型，在高質量視覺生成方面展示了令人驚嘆的性能，越來越受到學術界和工業界的關注。代表性模型或工具，如DALLE-3 [1] 和 MidJourney，已經廣泛應用于日常生活，幫助創作藝術作品或圖片。然而，這些強大的工具也帶來了潛在風險，因為它們可能被惡意使用來生成并傳播不安全的內容，如色情和暴力圖片，可能導致嚴重后果。在本文中，我們討論了如何從不同方面使視覺生成模型更加可靠和可控。特別地，我們重點關注擴散模型，因為它們是目前最廣泛使用的視覺生成模型。 首先，我們揭示了擴散模型中存在的潛在風險，表明在訓練過程中，它們可能容易被插入（惡意的）隱形后門，這可能導致不可靠和有害的行為。為此，我們提出了一種新的雙層優化框架來表述訓練過程，可以通過提出的不同算法實例化，分別用于無條件和條件擴散模型。大量實驗表明，后門可以在不影響模型正常性能的情況下有效插入，從而使后門更加隱蔽和穩健。同時，我們實證發現，目前各種防御方法無法緩解提出的隱形后門，增強了該方法在實際應用中的可用性。此外，所提出的隱形后門還可以直接應用于模型水印，用于在黑盒環境中進行模型所有權驗證，進一步增強了該框架的意義。 接下來，我們重點討論文本到圖像的擴散模型的可控生成。我們介紹了MuLan，一種多模態大語言模型（Multimodal-LLM）代理，它可以根據文本提示逐步生成對象。MuLan首先將提示分解為幾個子提示，每個子提示專注于一個對象。每個對象的生成都依賴于先前生成的對象。通過一個視覺語言模型（VLM）檢查器，MuLan可以及時監控生成過程，并在每個生成階段后自適應地修正可能的錯誤。MuLan大大提升了在文本提示中對象屬性和空間關系的生成性能。通過GPT-4V [2] 和人類的評估，大量實驗表明MuLan的卓越性能。此外，我們展示了MuLan可以在生成過程中啟用人機交互，進一步增強生成過程的靈活性和效果。 //lbezone.hkust.edu.hk/bib/9903412#

近年來，在計算攝影、虛擬現實、游戲和電影產業等領域，對視覺內容（如2D圖像和多幀視頻）的需求不斷增長。為了滿足這些需求，研究者們提出了多種生成模型，包括VQVAE、GAN和擴散模型（Diffusion Models），以促進從噪聲或文本生成視覺內容。然而，如何將這些模型應用于更實際的圖像到圖像生成任務（也稱為圖像處理與編輯）仍然是一個開放的挑戰。本論文探討了基于生成模型的圖像編輯范式，重點關注來自大規模預訓練的基礎模型。 我們首先探索了實時圖像縮放技術。現代相機拍攝的圖像可以達到6K分辨率，但這些圖像占用的存儲空間過大。為此，我們提出了一種量化自編碼器，通過優化熵損失將大型6K圖像壓縮為JPEG縮略圖，從而減小文件大小。隨后，一個高效的解碼器可以實時將低分辨率縮略圖還原為高分辨率圖像。 接著，我們轉向文本驅動的圖像修復技術。相機運動、數字電路噪聲以及惡劣天氣（如雨和霧）可能會降低攝影師拍攝的圖像質量。我們提出了一種基于擴散模型的圖像修復方法，該方法通過語義和修復指令進行引導。為了以較低的訓練成本實現這種多模態應用，我們使用合成退化圖像對預訓練的潛在擴散模型進行適配器微調。 最后，我們討論了文本驅動的視頻編輯方法。除了圖像層面的計算攝影外，創意特效也廣泛應用于游戲、電影和短視頻應用中。這些特效通常需要時間運動一致性和語義層面的編輯，例如身份和風格。由于目前沒有魯棒且開源的視頻生成模型可用，我們專注于以零樣本方式利用文本到圖像的潛在擴散模型。具體來說，我們將圖像生成模型轉換為視頻模型，并在DDIM反演過程中提取擴散Unet中的時空注意力圖，作為運動和幾何表示。然后，在DDIM去噪過程中，根據目標提示重新使用這些注意力圖。我們簡潔的框架能夠在保持顯著時間一致性的同時，實現形狀、屬性和全局風格的編輯。

生成模型近年來在二維和視頻合成領域取得了顯著進展。然而，二維和視頻生成中仍然存在明顯的不一致性，例如光照和幾何相關的問題。引入三維建模有望增強二維和視頻生成的連貫性與真實感，從而推動三維生成技術的進一步發展。鑒于直接用于生成建模的大量三維數據收集存在挑戰，從單視圖圖像學習三維分布成為一種可行的三維生成方法。這種方法得益于大量可用的非結構化、高質量且多樣化的單視圖圖像數據。一種常見的從單視圖圖像生成三維內容的策略是采用生成對抗網絡（GAN），并用三維渲染器替代生成器。本論文從四個角度探討了三維生成領域。首先，我們研究生成的幾何形狀，并提出通過將三維感知注入到生成器和判別器中來增強學習到的幾何結構。其次，我們分析了三維生成模型訓練中對姿態的要求，并解除生成器對姿態先驗的限制，從而實現更靈活的三維生成模型。第三，在復雜場景合成的背景下，我們分析了現有方法的不足，并提出利用三維先驗來促進從單視圖場景圖像進行三維建模。第四，我們還將討論高效三維生成表示的引入，特別是高斯散點表示（Gaussian Splatting）。最后，我們展望了三維生成領域的未來發展方向。深度學習的快速發展[21]顯著推動了計算機視覺領域中的許多任務，例如視覺對象識別[22, 23]、目標檢測[24, 25, 26]、圖像渲染[27, 28, 1]等，并在諸多方面便利了我們的日常生活，如自動駕駛[29, 30]、生物研究[31]和智能創作[32, 33]。在所有技術類型中，生成建模[34, 35, 36]在數據分析和機器學習中發揮了重要作用。與直接對輸入進行預測的判別模型不同，生成模型旨在再現數據分布，以便能夠從中采樣新的實例。為此目的，它們需要全面地表征數據。例如，檢測模型可以忽略與任務無關的信息（如顏色）而不影響性能，但生成模型需要管理圖像的每個細節（如物體排列以及每個物體的紋理）以實現令人滿意的生成。從這一角度來看，學習生成模型通常更具挑戰性，但同時也促進了一系列應用[37, 38, 39, 33]。近年來，深度生成模型[35, 34, 36]在二維圖像合成[33, 40, 41]方面取得了令人難以置信的成功。然而，在二維空間中學習生成模型已逐漸難以滿足某些現實世界應用的需求，因為我們的物理世界實際上是三維的。以電影行業為例，我們期望設計三維數字資產，而不僅僅是生成二維圖像，以帶來身臨其境的體驗。現有的內容創作流程通常需要大量專業知識和人力投入，這既耗時又昂貴。許多開創性的嘗試[42, 43, 44, 45, 2, 46]旨在研究如何自動生成三維數據，但這類研究仍處于早期階段。二維生成和三維生成之間的關鍵區別之一在于數據格式。具體而言，二維圖像可以自然地表示為像素值的數組，便于神經網絡[22, 23]處理。而常見的三維表示形式（如點云[47, 48]、網格[49, 50]和體素網格[51, 52]）則難以直接被卷積神經網絡處理。最近，隱式表示形式Neural Radiance Field（NeRF）[1]被提出用于通過學習從坐標到三維屬性的映射來建模三維對象，成為與神經網絡兼容的良好表示形式。最新研究[2, 6, 53, 3, 46, 54, 55, 45, 56, 4, 57]通過將NeRF與生成對抗網絡（GAN）[34]結合，使三維生成成為可能，從而發展出一種三維感知的GAN。具體而言，它們用三維渲染器替代GAN中的生成器。這種替換使得在生成圖像時可以顯式地控制視點，從而得益于生成器的三維感知能力。三維生成的難點還來源于訓練數據的獲取。在理想情況下，高質量三維資產的全面集合對于準確的生成建模至關重要。然而，使用設備大規模獲取此類數據極其困難。一種引人注目的方法是探索從二維生成數據集中轉移知識的潛力。一種可行的方法是利用二維單視圖圖像數據集學習三維表示。每個三維對象通常對應多個從不同視點拍攝的相似圖像，具有類似的結構。例如，在數據集中可能僅有不超過兩張同一人臉的圖像。鑒于人臉的共同結構特性，從不同角度拍攝的多樣化圖像中提取通用人臉特征是可行的。這使得模型能夠想象每個人臉的未見視圖。通過這種方式，可以探索如何從二維單視圖圖像集合中學習三維生成。構建高效三維生成器需考慮以下幾個關鍵因素：

1. 高質量圖像生成能力：生成器必須能夠生成高分辨率、高保真且真實感強的圖像，包括光照、陰影和紋理的真實性。與二維生成相比，三維生成任務中的“高質量圖像”還意味著多視圖一致性，即不同視圖圖像的重疊區域應表示相同的物體并具有一致的紋理。
2. 高質量的幾何基礎：生成的幾何形狀應合理且精確。這是一個挑戰性任務，因為訓練數據不僅是單視圖的，而且是圖像格式。因此，生成器需采用先進的幾何建模技術，確保表面光滑、比例真實，并在場景中保持一致的幾何結構。此外，它還應能生成復雜的結構，如精細的建筑結構。
3. 輕松利用易得數據的能力：模型應能有效利用易收集的數據集，而不需要大量的預處理或專門的數據采集。例如，大多數三維生成方法[2, 6]要求對收集數據進行精確的姿態標注，這非常昂貴。去除這種數據要求是必要的，以使三維生成模型能夠泛化到任意類別的數據。
4. 復雜場景生成的能力：三維世界由不同的物體組成，生成器需不僅能生成單一物體，還能捕獲場景中物體之間復雜的關系。由于場景中定義一個標準化空間非常困難，更可行的方法是借助附加的弱三維提示（如深度信息）來確保在只有單視圖圖像數據的情況下實現高質量場景生成。
5. 高效的訓練與推理：許多三維生成模型通常需要約5至7天在8個高端GPU上進行訓練才能有效收斂，這導致了相當大的能源浪費。因此，提高模型效率至關重要。這需要仔細設計網絡結構和三維表示形式，因為這些要素在優化計算資源和減少訓練時間方面起著關鍵作用。 本文余下部分將討論如何實現這些目標，具體組織如下：第二章介紹三維生成的基礎知識，包括生成對抗網絡的公式和三維生成的表示形式，同時討論相關工作及三維生成任務中的挑戰。第三章分析當前最流行的三維生成方法的問題，并探討如何在三維生成模型中保證良好的幾何基礎。第四章研究大多數三維生成方法對姿態標注的依賴性問題，并提出一種新方法以擺脫此類先驗需求，從而支持從易得數據中學習的概念。第五章指出復雜場景生成的問題，并提出一種新架構以促進真實場景生成。第六章聚焦于高效且可動畫的三維生成。最后，第七章討論了三維生成模型領域中未解決的問題及未來工作方向。

3D 感知在自動駕駛領域中起著至關重要的作用。基于視覺的 3D 感知方法依賴于僅使用相機輸入來重建 3D 環境，隨著深度學習技術的普及，這些方法取得了顯著進展。盡管取得了這些突破，現有的框架仍面臨性能瓶頸，并且通常需要大量的激光雷達（LiDAR）標注數據，這限制了它們在不同自動駕駛平臺上大規模應用的實際可行性。 本論文對基于視覺的 3D 感知技術的發展作出了多方面的貢獻。在第一部分，論文介紹了對單目和立體 3D 物體檢測算法的結構性改進。通過將地面參考幾何先驗信息融入單目檢測模型，本研究在單目 3D 檢測的基準評估中取得了前所未有的精度。與此同時，本文通過將單目網絡中的見解和推理結構融入立體 3D 檢測模型，進一步優化了立體檢測系統的操作效率。 第二部分專注于基于數據驅動的策略及其在 3D 視覺檢測中的實際應用。論文提出了一種新穎的訓練方案，結合了帶有 2D 或 3D 標簽的多種數據集。這種方法不僅通過使用大規模擴展的數據集增強了檢測模型，還在實際場景中通過利用僅具有 2D 注釋的數據集，使得模型部署更加經濟。 最后，論文展示了一個創新的管道，旨在實現自動駕駛場景中的無監督深度估計。大量的實證分析驗證了該新提出管道的魯棒性和有效性。綜合來看，這些貢獻為基于視覺的 3D 感知技術在自動駕駛應用中的廣泛采用奠定了堅實的基礎。

隨著基礎模型（包括大規模視覺語言模型）的最新進展，許多研究者探討了將多模態數據作為視覺問答輸入的結合方法。在醫療領域，視覺問答的一個關鍵應用是自動化醫學報告生成，其中可能提供胸部X光圖像和患者基于文本的癥狀數據，目的是生成相關的醫學報告。然而，很少有研究分析這些模型與單模態微調的大型語言模型（LLM）的性能差異，更少有研究比較這些多模態模型在提供癥狀信息作為輸入時的表現。此外，過去的研究通常使用簡單的評估指標，如n-gram重疊（例如BLEU和ROUGE分數），這些指標對于能夠生成不同句子但具有相同語義意義的生成式基礎模型并不有效。 本文的主要貢獻有兩個。首先，我們比較了多種醫學報告生成方法在胸部X光醫學報告數據集上的表現，包括單模態微調的醫學LLM、沒有癥狀數據的多模態模型和包含癥狀數據的多模態模型。其次，我們引入了四種新的評估指標，用于評估生成醫學報告與參考醫學報告之間的相似性，分別為：單詞對、句子平均、句子對和句子對（生物）。我們的結果表明，針對醫學報告生成的多模態方法遠優于單模態方法，且提供癥狀數據略微提高了生成報告的準確性。我們還發現，我們新提出的句子對評估指標比所有之前的指標更能準確衡量生成報告與參考報告之間的相似性，這一點通過全面的定量和定性案例研究對比得到了證實。 這項研究從根本上推動了醫學報告生成的前沿，進一步增強了使用多模態模型和癥狀輸入的準確性優勢，并引入了幾種更為全面、定制化的評估生成醫學報告的評分指標。

在過去十年的繁榮發展之后，視頻理解的研究已到達一個關鍵的節點，單純依賴海量數據和復雜的架構已不再是適用于所有情況的萬能解決方案。數據不平衡的普遍存在阻礙了深度神經網絡（DNNs）有效學習潛在的因果機制，導致在遇到分布變化時（如長尾不平衡和擾動不平衡）性能顯著下降。這一現象促使研究者開始探索替代方法，以捕捉視頻數據中的因果模式。為了應對這些挑戰并提高DNNs的魯棒性，因果建模作為一種原則被提出，旨在發現觀察到的相關性背后的真實因果模式。

本文主要研究視頻語義理解領域，探索因果建模在推進兩個基礎任務中的潛力：視頻關系檢測（Video Relation Detection, VidVRD）和視頻問答（Video Question Answering, VideoQA）。

總結來說，本論文的主要貢獻如下：

• 我們提出了一種干預性視頻關系檢測方法，稱為IVRD，旨在解決VidVRD中關系的長尾不平衡問題。盡管尾部關系具有信息性，但由于其在數據集中稀少，難以預測。我們特別提出了一套分層的關系原型，這迫使關系推理模塊關注實體之間動態交互的視覺內容，而非依賴于對象與關系標簽之間的偽相關性。通過引入因果推理，IVRD為改善長尾不平衡情況下的視頻理解提供了一個有前景的方向，使模型能夠更好地泛化到現實世界場景中，特別是在稀有或不常見的關系在場景理解中扮演關鍵角色時。
• 我們引入了一種視頻問答中的不變性定位方法，稱為IGV，這是一種與模型無關的學習框架，旨在解決由答案-環境之間的偽相關性帶來的負面影響。IGV通過定位問題關鍵的（因果）場景，發現因果推理模式。具體而言，IGV利用了因果場景與答案之間的關系在環境變化時仍保持不變這一事實，并且去除因果場景應導致問題回答失敗。通過定位這些關鍵場景，IGV使VideoQA模型能夠專注于準確推理所需的視覺內容，同時避免環境負面的影響，從而顯著提升了模型的推理能力。
• 我們提出了視頻問答中的等變性定位方法EIGV，進一步增強了魯棒性和視覺可解釋性。基于IGV，EIGV還引入了等變性，促使回答過程對因果場景和問題中的語義變化更為敏感。相較之下，不變性定位要求回答過程對環境場景的變化不敏感。這兩種正則化機制協同工作，區分因果場景與環境場景，并通過呈現視覺-語言對齊提供更多的透明性。通過結合不變性和等變性定位的優勢，EIGV創建了一個更加魯棒且可解釋的VideoQA框架。
• 我們發現了視頻問答中的時空推理，解決了長視頻和多對象樣本（即復雜視頻問答）上的低準確性問題。現有的VideoQA實踐（包括預訓練模型如SeVila [162]）大多是在短視頻片段（約15秒）和少數實體（約2個）上進行訓練的，因此在復雜視頻（超過80秒且包含5個以上對象）上表現較差。原因在于長視頻不可避免地引入大量冗余和偽相關性，因為許多與問題無關的環境對象存在。為應對這一挑戰，我們首先強調建模問題關鍵的時間片段和空間對象的重要性，接著提出了時空推理（Spatio-Temporal Rationalization, STR）方法，通過可微選擇模塊自適應地收集問題關鍵的時間片段和對象，并通過跨模態交互進行推理。結合更合理的候選答案解碼策略，STR有效識別出與問題無關的幀和對象作為因果模式，尤其在復雜場景下顯著改善了預測性能。

本文的一個局限性在于對所識別因果場景的評估。在整個研究過程中，我們依賴于問題回答（QA）總體性能作為所發現因果場景質量的間接指標，基于這樣一個推理：更準確地定位因果場景可能會提供更豐富的問題-關系視覺線索，從而提升QA性能。然而，值得注意的是，基于因果場景的直接量化指標將提供更具說服力的見解。遺憾的是，由于缺乏人類級別的定位標注，當前工作中未能實現這種度量。因此，未來的研究將著力建立一個專門針對因果場景的評估基準，涉及對回答過程所依賴的視覺元素進行人類標注。這一舉措將有助于更全面和嚴格地評估因果場景的發現。

總之，本文的貢獻拓展了因果建模在視頻語義理解中的前沿應用，賦能AI系統掌握因果模式，并在應對視頻理解挑戰任務中提升性能。

近年來，自然語言生成的許多工作依賴于深度學習，通常使用帶有軟注意機制的神經網絡從數據中選擇顯著方面，然后構建流暢的自然語言文本。然而，在對數據的自然描述中，人類通常會提到更高級別的模式，這可能需要對數據進行復雜的計算。在許多情況下，僅使用軟注意機制的神經模型難以提取這些模式。此外，用戶可能會發現這些模型難以解釋和控制。在本論文中，我提出了一種通過在數據和文本上引入某些類型的離散層級操作的方法，以實現基礎自然語言生成。與僅使用注意力機制相比，這種層級操作可以更好地對數據中的復雜模式建模，揭示可解釋的中間計算，并實現可控的生成。

在論文的前半部分，我將討論在不同的基礎自然語言生成任務中向神經模型添加特定的離散層級操作，如圖像和表格標題生成、對話響應生成以及構建多跳問題回答的推理鏈。這些任務涵蓋了各種數據模態（包括圖像、表格數據、數值數據和知識庫）。在論文的后半部分，我將描述用于文本解碼器中的內容規劃的層級方法，研究詩歌生成中的押韻模式以及用于連貫敘事文本生成的離散計劃。

盡管深度學習有著廣泛的應用，但在實際應用中仍面臨穩健性挑戰，尤其是在訓練和測試分布不一致的情況下。訓練和測試分布之間的差異原因包括人類行為的逐漸變化或服務使用環境的人口統計學差異。雖然獲取預期分布變化的標注數據可能非常困難，但未標注樣本相對便宜且數量充足。

我的研究利用目標領域的未標注數據，識別目標領域和源領域之間的結構關系，然后利用這些關系來適應和評估模型。本論文討論的工作涉及理論和實證上理解深度模型的行為，并利用這些見解開發穩健的方法。特別是，本論文調查了我在以下三個問題上的工作：

Q1：如何在分布變化的情況下適應模型？如果沒有對分布變化性質的假設，這項任務是不可能完成的。我的研究重點是制定在實際環境中出現的分布變化場景的假設，并通過利用未標注數據來改進和適應深度模型。論文的第一部分和第二部分詳細探討了這一研究。

Q2：在沒有標注數據的情況下，如何評估模型的性能？深度學習模型會無聲地失敗，即它們無法標記不確定的決策。為了構建可靠的機器學習系統，獲得準確性的證明與增強系統的穩健性同樣重要。第三部分討論了我在這方面的研究，并提出了利用未標注數據預測模型準確性的技術。

Q3：如何利用基礎模型來解決分布變化帶來的挑戰？基礎模型（如視覺語言模型）在廣泛的任務中表現出色。然而，這些模型也由于虛假關聯、圖像與文本對齊差等原因缺乏穩健性。此外，隨著互聯網數據的演變，這些模型也會變得過時，提出了保持它們更新的新的挑戰。第四部分討論了我對基礎模型行為的理解以及在分布變化下提高其穩健性的技術。

總體而言，本論文通過開發利用未標注數據在分布變化下適應和評估模型的技術，拓展了穩健機器學習的前沿。這里展示的工作是朝著在分布變化面前開發穩健機器學習全面工具包邁出的一步。

傳統基于幀的相機由于其緊湊、低成本以及能夠提供豐富的外部感知測量能力，而已經成為基于計算機視覺的眾多應用中的首選傳感器。盡管這些傳感器在該領域占主導地位，但它們在普通的、真實的場景中表現出了局限性，在這些場景中普遍存在有害的影響，如高速運動中的運動模糊或在光照不足的場景中過度/不足的曝光。

如今多種新型技術在挑戰傳統相機的主導地位，最近出現的受生物啟發的事件相機由于其高速傳感、高動態范圍（HDR）能力和低功耗，為強大的感知能力開辟了令人興奮的研究可能性。盡管它們具有很好的特性，但由于其獨特的輸出，事件相機帶來了許多挑戰：稀疏和異步的事件流，只捕捉到單個像素的增量感知變化。這種截然不同的傳感方式使得大多數傳統的計算機視覺算法在沒有大量的事先調整的情況下無法兼容，因為它們最初是為處理以固定幀率捕獲的圖像序列而設計的。因此，文獻中大部分現有的基于事件的算法都選擇將事件流離散成批次，并按順序進行處理，有效地恢復到類似于幀的表示，以試圖模仿傳統傳感器的圖像序列的處理。在傳統強度圖像的質量受到嚴重影響的情況下，這種事件分批算法明顯優于其他基于框架的替代算法，揭示了這些新傳感器的內在潛力并使其得到普及。然而，迄今為止，許多新設計的基于事件的算法仍然依賴于對事件流的離散化處理，這表明事件相機的全部潛力有待于通過更自然地處理其輸出來加以利用。

這篇論文脫離了對傳統的基于幀的方法的簡單改編，而是主張開發新的算法，為事件相機綜合設計，以充分利用其有利的特性。特別是，本論文的重點在于描述一系列新穎的策略和算法，這些策略和算法以純粹的事件驅動方式進行操作，即在每個事件產生后立即進行處理，而不對事件進行任意批次的中間緩沖，從而避免了處理過程中的任何額外延遲。與較簡單的事件分批處理相比，這種事件驅動的過程帶來了額外的挑戰，而這些挑戰主要歸因于以事件速度產生可靠結果的要求，這對它們在現實世界的應用中的部署產生了重大的實際影響。

本論文的主要內容是設計事件驅動的算法，用于高效和異步的特征檢測和跟蹤事件相機，涵蓋了這種新興傳感方式的模式識別和數據關聯的關鍵因素。特別是，本論文的一個重要部分致力于研究事件相機的視覺角落，從而設計出創新的事件驅動方法，以檢測和跟蹤角落事件。此外，本論文還研究了基于補丁的通用特征的使用和它們的事件驅動跟蹤，以有效檢索高質量的特征軌跡。本論文中開發的所有算法都是邁向完全由事件驅動的、基于特征的同步定位與地圖構建（SLAM）管道的重要墊腳石。本論文擴展了最先進的事件驅動方法的既定概念，并進一步探索了事件驅動范式在現實單眼設置中的局限性。雖然所提出的方法僅依賴于事件數據，但所獲得的見解對于未來將基于事件的視覺與其他互補的傳感方式相結合的研究具有開創性意義。這里進行的研究為建立一個新的事件驅動算法系列鋪平了道路，該算法高效、穩健、可擴展地運行，設想了基于事件的計算機視覺的潛在范式轉變。

本博士論文的結構是由三章組成的累積性論文，而作為本研究一部分的所有出版物都在附錄中。具體來說，第1章提供了本論文在機器人學和計算機視覺領域的背景，介紹了傳統的和基于事件的視覺傳感器的基本原理，它們的優勢和局限。此外，第1章還介紹了所要解決的研究問題的范圍，以及相關主題的技術現狀概述。第2章總結了導致本論文結論的所有已發表的稿件的內容，將其置于各自的研究背景下，描述其貢獻，并建立它們之間的聯系。第3章概述了我們的研究結果，并在我們的工作基礎上提出了潛在的未來研究方向。