社會技術系統是人類和算法的集合,它們在分散控制器的部分監督下進行交互。這些系統通常顯示出復雜的動態變化,并以其獨特的突發行為為特征。在這項工作中,我們描述、分析和模擬了三類不同的社會技術系統:金融市場、社交媒體平臺和選舉。雖然我們的工作在主題內容上多種多樣,但通過研究社會系統中由進化和適應驅動的變化以及開發用于推斷這種變化的方法,我們的工作是統一的。
首先在基于智能體的模型(ABM)中分析了金融市場微觀結構的進化動態。ABM 的匹配引擎實現了頻繁的批量拍賣,這是最近開發的一種價格發現機制。我們使用各種選擇機制讓智能體承受進化壓力,證明基于量化的選擇機制與較低的全市場波動性相關。然后,我們在 ABM 中進化深度神經網絡,并證明精英個體在真實外匯數據的回溯測試中是有利可圖的,盡管在進化過程中它們的適應性從未在任何真實金融數據上進行過評估。
然后,轉向從社會技術系統生成的大型時間序列面板中提取多時間尺度的功能信號。我們引入了離散小震子變換(DST)和相關的相似性搜索算法--小震子變換和排序算法(STAR)來完成這項任務。我們通過經驗證明了 STAR 算法對定量功能參數化的不變性,并提供了使用案例。在特征提取任務中,STAR 算法與 Twitter 的異常檢測算法進行了比較。最后,我們使用 STAR 算法,利用 Twitter 詞語使用時間序列面板,自動構建了社會重大事件的敘事時間軸。
最后,模擬了試圖干涉他國選舉的外國情報機構(紅隊)與選舉所在國國內情報機構(藍隊)之間的戰略互動。我們推導出紅方和藍方的亞博弈完全納什均衡策略,并展示了當任何一方對干涉事件的結果持 "全有或全無 "態度時,軍備競賽干涉動態的出現。然后,將 2016 年美國總統大選的數據與本文模型進行了對比,在這次大選中,俄羅斯軍事情報機構進行了干預。本文了證明,在研究的大部分時間里,本文了模型捕捉到了這種干預的定性動態。
近年來,對無人駕駛車輛等自主實體的研究開始給軍事和民用設備帶來革命性的變化。自主實體的一個重要研究重點是自主機器人群的協調問題。傳統上,機器人模型被用于考慮操作機器人群所需最低規格的算法。然而,這些理論模型也忽略了重要的實際細節。其中一些細節,如時間,以前也曾被考慮過(如執行的歷時)。在本論文中,將結合幾個問題來研究這些細節,并引入新的性能指標來捕捉實際細節。具體來說,我們引入了三個新指標:(1) 距離復雜度(反映機器人的耗電量和損耗),(2) 空間復雜度(反映算法運行所需的空間),(3) 局部計算復雜度(反映蜂群中每個機器人的計算要求)。
將這些指標應用于研究一些著名的重要問題,如完全可見性和任意模式形成。還引入并研究了一個新問題--"門道出口",它抓住了機器人群在受限空間中導航的本質。首先,研究了一類完全可見性算法所使用的距離和空間復雜性。其次,提供了整數平面上的完全可見性算法,包括一些在時間、距離復雜度和空間復雜度方面漸近最優的算法。第三,介紹了門道出口問題,并為各種機器人群模型提供了不同最優性的算法。最后,還提供了網格上任意圖案形成的最優算法。
現有的決策計算模型往往局限于特定的實驗設置。造成這種限制的主要原因是無法捕捉決策者對情況的不確定性。本文提出了一個計算框架,用于研究神經科學和心理學中不確定情況下的決策制定。框架主要側重于決策者對世界狀況的概率評估,即他們的 “信念”。具體來說,它基于部分可觀測馬爾可夫決策過程(POMDPs),結合貝葉斯推理和獎勵最大化來選擇行動。利用感知決策和社會決策方面的各種實驗數據,證明了基于信念的決策框架的可行性。框架解釋了感知決策實驗中決策者的實際表現與他們對實際表現的信念(即決策信心)之間的關系。它還說明了為什么在許多情況下這種評估會偏離現實。這種偏差通常被解釋為次優決策的證據,或選擇和信心的不同過程。我們的框架對這些解釋提出了挑戰,它表明,一個優化收益的規范貝葉斯決策者也會產生同樣的偏差。此外,在定量預測人類在社會決策任務中的行為方面,方法優于現有模型,并提供了對潛在過程的洞察。結果表明,在涉及大型群體的決策任務中,人類采用貝葉斯推理來模擬 “群體心理”,并對他人的決策做出預測。最后,將方法擴展到關于他人的多個推理層次(心智理論層次),并將服從作為群體決策的一種策略聯系起來。這個擴展框架可以解釋人類在各種集體群體決策任務中的行為,為大型群體中的合作與協調提供了新的理論。
圖 1.1: 基于信念的決策框架。智能體通過行動、觀察和獎勵與世界互動。智能體無法完全觀測到世界的狀態,只能根據觀測結果和智能體的內部世界模型,以概率方式表示世界的狀態。智能體的目標是根據當前狀態的概率分布來制定策略,即所謂的信念
近年來,計算機視覺和機器學習系統有了顯著改善,這主要是基于深度學習系統的發展,從而在目標檢測任務上取得了令人印象深刻的性能。理解圖像內容則要困難得多。即使是簡單的情況,如 "握手"、"遛狗"、"打乒乓球 "或 "人們在等公交車",也會帶來巨大的挑戰。每種情況都由共同的目標組成,但既不能作為單一實體進行可靠的檢測,也不能通過其各部分的簡單共同出現進行檢測。
這篇論文將描述一個用于進行視覺情境識別的新型系統,其目標是開發能夠展示與理解相關特性的機器學習系統。該系統被稱為 Situate,它能在給出情況描述和少量標注訓練集的情況下,學習目標外觀模型以及捕捉情況預期空間關系的概率模型。給定一張新圖片后,Situate 會利用其學習到的模型和一系列智能體對輸入內容進行主動搜索,以找到情況模型與圖片內容之間最一致的對應關系。每個智能體都會開發模型與輸入內容之間可能存在的對應關系,而 Situate 會為智能體分配計算資源,以便盡早開發出有希望的解決方案,但也不會忽略其他對應關系。
將把 Situate 與更傳統的計算機視覺方法(該方法依賴于檢測情境中的組成目標)以及基于 "場景圖 "的相關圖像檢索系統進行比較。將在情境識別任務和圖像檢索中對每種方法進行評估。結果表明了圖像內容和該內容模型之間的反饋系統的價值。
與決策相關的活動,如自下而上和自上而下的策略制定、分析和規劃,都將受益于基于計算機的模型的開發和應用,這些模型能夠在當地環境中表現人類的時空社會行為。在努力了解和尋找減緩氣候變化特定影響的方法時尤其如此,在這種情況下,此類模型需要包括相互影響的社會和生態要素。此類模型的開發和應用一直受到以下挑戰的嚴重阻礙:設計行為以經驗證據和理論為基礎的智能體,以及測試智能體代表現實世界決策者行為的能力。本論文通過以下方法克服了這些挑戰,從而提高了開發此類模型的能力: (a) 三個新框架,(b) 兩種新方法,以及 (c) 兩種新的開源建模工具。這三個新框架包括 (a) SOSIEL 框架,它為開發新一代認知、多智能體和基于知識的模型提供了一個有理論基礎的藍圖,這些模型由具有認知架構的智能體組成; (b) 一個分析決策者有界理性的新框架,它為分析決策情境與決策者決策之間的關系提供了洞察力和便利;以及 (c) 一個分析人工智能體雙重有界理性(DBR)的新框架,它對決策情境與人工智能體決策之間的關系做了同樣的分析。這兩種新方法包括 (a) 用于獲取和操作決策知識的 SOSIEL 方法,它提高了我們為認知模型、多智能體模型和基于知識的模型獲取、處理和表示決策知識的能力;以及 (b) 用于測試人工智能體表示人類決策能力的 DBR 方法。這兩個開源建模工具包括 (a) SOSIEL 平臺,這是一個基于認知、多智能體和知識的平臺,用于模擬人類決策;以及 (b) 將該平臺作為 SOSIEL 人類擴展(SHE)應用于現有的森林氣候變化模型,即 LANDIS-II,以便分析人類與森林氣候之間的共同進化互動。為了提供示例背景和知識獲取指南,論文包括烏克蘭喀爾巴阡山地區社會生態互動的案例研究,該地區目前正在應用 LANDIS-II 和 SHE。因此,本論文通過以下方式推動科學發展 (a) 為下一代基于認知、多智能體和知識的模型提供理論基礎并展示其實施;(b) 為理解、分析和測試人工智能體代表人類決策的能力提供植根于心理學的新視角。
多智能體自主系統與實時規劃有關的研究日益增多,本論文就是對這一研究的貢獻。多年來,由移動智能體組成的自主系統已被證明是用于探索(如太空機器人)、軍事(如搜救行動)和工業應用(如谷歌自動駕駛汽車)的高效、穩健和多功能工具。隨著自主技術日趨成熟,部署多個自主智能體來完成復雜的任務在許多不同的應用中都受到了廣泛關注。如果單個智能體可以完成一項任務,那么多個智能體就有可能更快地完成任務。然而,引入多個智能體會使整個系統變得更加復雜,因為現在的智能體需要能夠有效地相互協作。在沒有有效協作機制的情況下隨機引入智能體,可能會對生產率產生負面影響。
本論文的研究目標是使多智能體自主系統在現實應用中無處不在。我們采用了自下而上的方法來開發算法機制,以應對我們在實現這一目標的道路上所面臨的挑戰。
對于在動態環境中運行的智能體來說,能否成功執行任務取決于它能否有效地導航到目標位置。如果我們在環境中引入更多的智能體,路徑規劃的要求就會更高,因為現在智能體之間必須把彼此當作動態障礙物來對待。路徑規劃算法不僅需要避開障礙物,還需要足夠快的速度,以便在移動智能體在導航過程中遇到意外障礙時重新規劃。此外,路徑規劃算法還需要保證智能體能夠在滿足機械約束條件的情況下穿越路徑。
我們開發了一種基于隨機優化的同步重規劃矢量粒子群優化算法(SRVPSO),通過避開靜態和動態障礙物來找出成本最優的路徑。所提出的算法通過應用同步重新規劃策略,減少了路徑規劃的計算時間。SRVPSO 算法還能在一些車輛約束條件下工作,如車輛尺寸和轉向角。此外,還開發了一種不同地形的可穿越性評估方法,以便在未知環境中進行無風險、穩健的導航,同時優化總成本。
由移動智能體群組成的自主系統需要一個有效的任務規劃器來成功完成一系列任務。任務規劃器所面臨的挑戰是如何為每個智能體確定最優化的任務數量和相關任務。為了解決多智能體自主系統任務規劃過程中的任務分解和任務分配問題,我們開發了一個折中視圖(CV)模型和一個基于最近鄰搜索(NNS)的模型。結果表明,這些模型因其反應式管理結構而非常有效,能成功完成任務。NNS 模型能有效地解決智能體的分解問題。它還具有任務切換能力。
任務規劃器的多目標優化框架可確定任務所需的智能體數量。任務規劃器利用所開發的任務分解方法,最大限度地減少完成任務的時間以及智能體的數量。多目標框架的輸出是帕累托最優值,然后將其作為決策框架的輸入,根據用戶定義的一些約束條件和優先事項確定優化的智能體數量。在測量完成任務的時間時,任務規劃器利用先前開發的路徑規劃器模擬智能體在環境中的導航軌跡,以提供最準確的估計。
然而,正在進行的任務可能會受到突發事件的影響(如一些天氣事件、智能體的意外維護要求等)。未來任務的規劃取決于正在進行的任務,因為它提供了對資源可用性的估計。需要一個現實的預測模型,利用過去任務的信息,對當前任務的完成情況進行統計估計。
我們開發了一個基于人工神經網絡的預測模型,根據以往任務的信息預測任務的完成時間。該預測模型旨在為潛在的任務規劃者提供指導。利用這一數值模型,未來的規劃者可以預測所需的資源,而無需經過優化過程。上述所有算法工具都通過大量的模擬結果和實時實驗進行了演示。
美國國防部和合作組織正在開發先進的機器系統,這些系統將與人類合作完成任務。鑒于這些人機團隊(HMT)從未經歷過測試與評估(T&E),本簡報有助于指導評估人員應對 HMT 帶來的新挑戰。它定義了人機協作,描述了評估 HMT 所面臨的挑戰,并提供了對 HMT 的測試與評估非常重要的指標分類框架。
人機協作比個體系統完成任務的簡單行為更為廣泛。它涉及人與系統之間的廣泛互動,因為他們要共同努力實現一個集體目標。鑒于人機協作的高度協作性,僅僅衡量機器和人是不夠的。我們還需要衡量團隊本身,而且這些衡量標準必須與任務相關、定量且客觀。
在評估 HMT 時會遇到一些獨特的挑戰,包括如何處理不透明的心智模式,以及機器指揮通信、自我任務或人類任務的情況。例如,考慮一個人機搜救小組,在這個小組中,一架自主無人機在空中飛行,尋找倒塌建筑中的幸存者,當發現幸存者時,它會向地面上的機器人發出警報。然后,機器人將幸存者從廢墟中拉出,送到人類醫護人員那里接受治療。如何評估無人機決定搜索地點的過程?或者如何與機器人溝通?機器人對這些通信的反應又如何?醫護人員決定如何治療幸存者以及治療順序如何?無人機、機器人和醫護人員如何合作并優先救治傷勢最嚴重的幸存者?它們如何協調其他工作?他們如何應對不斷變化的環境所固有的困難?顯而易見,團隊成員之間的互動是關鍵。
該框架概述了 HMT 評估的主要類別,包括能力(團隊具備哪些能力?)、互動(團隊如何合作和協調行動以實現目標?它強調團隊的衡量標準以及人與機器之間衡量標準的協調。因此,如果要評估人類的認知能力(即注意力和判斷力),就需要同時評估機器的認知能力(即信息處理架構和決策算法)。
該框架還提供了一種結構,用于確定和選擇評估團隊效率的適當指標。所有這些衡量標準都來自于先前的科學研究。
首先,考察人和機器的能力,因為其中任何一項能力都可能是團隊合作失敗的原因。對人的培訓和經驗、心理特征、體能、態度、認知資源、腦力勞動負荷或疲勞等進行評估。考慮與機器的認知結構和硬件組件相關的因素,如程序化任務知識、操作系統和其他軟件,以及物理傳感器和平臺。
其次,檢查可能導致交互失敗的關鍵領域。其中包括機器的態勢感知、資源分配和不同情況下的資源使用。例如,機器在使用傳感器尋找新的幸存者時需要多少電力,會影響到機器是否可以協助滿足團隊的其他需求。這些關鍵領域還包括人類的視角和決策過程。例如,人類對情況的理解會影響他們在這種情況下的行為,以及他們是否信任與之合作的機器。
最后,考慮潛在的漏洞。哪些威脅可能會阻礙團隊完成目標?如果團隊失敗會有什么后果?失敗可能會引發哪些其他問題?重要的是要找出任何問題,以便在今后的工作中加以緩解或解決。
最后,本簡報為 T&E 界提供了兩個重要啟示:
人工智能系統近年來已經展現出了顯著的進步。然而,擴展性和泛化到實際問題仍然是一個重大問題。在本論文中,我們探討了構建可擴展計算機視覺人工智能系統的三個關鍵組成部分,包括模型優化能力、學習目標和大規模數據集,并將這些成果應用于機器人技術。我們的工作從視覺變換器的優化性研究開始,提出了一組新的優化性度量標準和一種替代的片段化設計。接下來,我們引入了一種對比自監督學習目標,減少了自監督學習中的歸納偏見,導致在各種數據集上都有優越的性能。然后,我們展示了自監督視覺預訓練在真實世界圖像中學習運動控制任務的效果,從像素中學習,超越了有監督的基線,并與標準狀態性能相匹配。在此基礎上,我們探索了在野外多樣化視頻中對真實世界機器人任務的自監督視覺預訓練,展示了預訓練表示在一系列任務和實體中的有效性。此外,我們提出了一種基于因果變換器的仿真到真實學習方法,用于真實世界中全尺寸仿人機器人的行走,這標志著第一個完全基于學習的方法用于真實世界中全尺寸仿人機器人的行走。最后,我們總結了論文并討論了該領域進一步研究的可能未來方向。
信息論和統計學之間的相互作用是兩個領域發展的永恒主題。本課程將討論基于信息理論的技術如何在理解高維統計問題的極大極小風險和樣本復雜性的基本極限方面發揮關鍵作用。特別地,我們將嚴格證明通過固有低維(稀疏性、平滑性、形狀等)或不太熟悉的外在低維(功能估計)來降維的現象。為了補充理解基礎極限的目標,另一個重要的方向是開發達到統計最優的計算效率程序。
本課程的目標(以及本教材的目標)是為最廣泛使用的學習架構介紹學習理論的新舊結果。本課程面向以理論為導向的學生,以及希望對機器學習和相關領域(如計算機視覺或自然語言處理等學習方法的大量用戶)中使用的算法有基本數學理解的學生。我們將特別努力去證明許多來自第一性原理的結果,同時保持闡述盡可能簡單。這將自然地導致一個關鍵結果的選擇,以簡單但相關的實例展示學習理論中的重要概念。一些一般的結果也將在沒有證明的情況下給出。當然,第一性原理的概念是主觀的,我將假定你對線性代數、概率論和微積分有很好的了解。此外,我將重點關注在實踐中可以運行的算法之外不存在的學習理論部分,因此本書中描述的所有算法框架都是常規使用的。對于大多數學習方法,一些簡單的說明性實驗被提出,并計劃有伴隨的代碼(Matlab, Julia和Python),這樣學生就可以自己看到算法是簡單和有效的綜合實驗。
這是一本關于理論計算機科學的本科入門課程的教科書。這本書的教育目的是傳達以下信息:
? 這種計算出現在各種自然和人為系統中,而不僅僅是現代的硅基計算機中。 ? 類似地,除了作為一個極其重要的工具,計算也作為一個有用的鏡頭來描述自然,物理,數學,甚至社會概念。 ? 許多不同計算模型的普遍性概念,以及代碼和數據之間的二元性相關概念。 ? 一個人可以精確地定義一個計算的數學模型,然后用它來證明(有時只是猜測)下界和不可能的結果。 ? 現代理論計算機科學的一些令人驚訝的結果和發現,包括np完備性的流行、交互作用的力量、一方面的隨機性的力量和另一方面的去隨機化的可能性、在密碼學中“為好的”使用硬度的能力,以及量子計算的迷人可能性。