這本書提供了關于移動邊緣計算(MEC)的全面而獨立的知識,這是在下一代無線通信和計算網絡中實現智能化的一個非常有前景的技術。隨著超越5G/6G和物聯網的快速發展,越來越多的智能設備被部署在網絡的邊緣。由于數據量巨大和傳輸距離長,中心化的計算機制導致高延遲和網絡擁塞。通過將計算和存儲資源靠近用戶,MEC可以顯著提高性能,表現在低延遲、減少通信開銷和高質量的用戶體驗上。此外,在邊緣設備上處理數據將增強系統安全性和數據隱私。
這本書由于廣泛覆蓋了MEC的原理和應用,因此易于交叉參考。它涵蓋了MEC的基礎知識、關鍵主題和未來方向。它還詳細介紹了MEC中通信、計算和緩存的設計和實現。書中首先介紹了MEC的基本概念、關鍵技術和網絡架構。然后,我們展示了MEC的廣泛應用,包括邊緣緩存、6G網絡、車聯網和無人機。在最后一部分,我們介紹了MEC遇到區塊鏈、人工智能和分布式機器學習(例如,聯邦學習)時的新機遇。我們還確定了MEC在大流行、工業物聯網和災害管理中的新興應用。
這本書的目的是提供MEC的基本概念,探索與新興技術集成的MEC的有前景的應用場景,并給出MEC可能的未來發展方向的見解。為了更好地理解,本書還介紹了在不同場景中MEC模型和應用的幾個用例。主要讀者包括高年級本科生、研究生、教育工作者、科學家、研究人員、工程師、創新者和研究策略師。這本書主要為無線網絡和邊緣智能領域的學術界和工業界的學者和研究人員設計。主修計算機科學、電子和通信的學生也將從這本書中受益。這本書的內容對從事MEC研究的高年級本科生、研究生和教師也有用。
決策智能(DI)多年來一直被廣泛認為是頂尖的技術趨勢,Gartner的報告顯示,超過三分之一的大型組織正在采用它。有人甚至說,DI是AI發展的下一個階段。目前,許多軟件供應商提供DI解決方案,因為它們幫助組織實施基于證據或數據驅動的決策策略。
然而,到目前為止,關于組織如何正式化決策并將其與數據整合的實用指南還很少。 通過這本書,作者L. Y. Pratt和N. E. Malcolm填補了這一空白。他們提出了一種分步方法,將技術整合到決策中,搭建從行動到期望結果的橋梁,重點關注在決策制定過程中起顧問作用、與人類保持交互的系統。 這本手冊解決了三個普遍存在的數據驅動決策問題:
在第一章中,我們向您介紹DI。我們簡要介紹DI的歷史,并從多個角度解釋它的好處。如果您想快速開始學習DI的流程,可以跳過第一章。其余章節圍繞九個DI流程進行組織,這些流程在圖P-3中進行了總結。
第二章讓你開始學習決策制定。它涵蓋了創建初始決策目標陳述和構建決策設計的過程,包括識別可用的行動和期望的結果。第三章涉及到決策設計,你將在這里創建你的初始CDD。在第四章,你將研究可以支持你的決策的技術和數據資產,這被稱為決策資產調查。現在是時候把所有東西匯集起來,做出你能做的最好的決策。這是決策模擬,涵蓋在第五章。在你根據你的決策采取行動之前,你會想要評估風險、敏感性和不確定性。這是決策評估,是第六章的主題。現在是時候采取你選擇的行動了。在這本書中,我們不會告訴你一旦做出選擇該如何行動——我們認為你在這方面已經很擅長了。但是在第七章,我們將描述決策監測:你如何可以使用你的DI資產來監控你的行動(KPIs、中間過程、結果等)在現實中的效果,以便你可以在事情偏離軌道時迅速調整。
最后,第八章涵蓋了決策模型被使用后你需要做的事情。在決策成果保留中,你要確保盡可能多的決策制定努力可以被重復使用。在決策回顧過程中,你將評估并改進你的決策制定過程,以備下次使用。 //www.oreilly.com/library/view/the-decision-intelligence/9781098139643/
深度學習是人工智能的重要組成部分,特別是在圖像分類等應用中,各種神經網絡架構(例如,卷積神經網絡)已經產生了可靠的結果。這本書介紹了用于時間序列分析的深度學習,特別是對于周期性時間序列。它詳細闡述了在其架構深層次進行時間序列分析所采用的方法。周期性時間序列通常具有可以用于更好的分類性能的特殊特征。本書對此進行了討論。處理周期性時間序列也在本書中有所覆蓋。分類隨機時間序列的一個重要因素是與分類方法架構相關的結構風險。本書解決并構建了結構風險,以及為分類方法定義的學習能力。這些公式和數學推導將幫助研究者理解方法,并以客觀的數學方式表達他們的方法。本書設計成為具有不同機器學習背景和理解水平的讀者(包括學生,工程師,研究者和這個領域的科學家)的自學教材。書中提供的大量信息豐富的插圖將引導讀者對時間序列分析的深度學習方法有深入的理解。
大部分科學研究,包括計算機科學,都將學習視為發展的重要元素,其中深度機器學習最近被視為一個新興的領域。深度機器學習方法的應用在過去的五年中受到了研究人員和工程師的熱烈歡迎,當時時間序列分析在生物醫學工程等不同的領域中越來越被視為一個重要的主題。盡管強大的深度學習方法的實施工具的發展在計算機科學和工程領域創造了突破,但是,向這個領域內的抽象理解的轉變明顯可見,尤其在年輕的開發人員中。這可能會在深度學習的一般觀念上留下負面的印象,反過來又會被視為這種進步的缺點。如今,各種深度學習方法被大量開發并發布在高度知名的參考資料中,然而,只有極少數的方法包含足夠的質量,能對相關社區產生真正的影響。原因之一可能是對理論基礎以及實施知識的深入了解不足。這促使作者準備了一本關于深度學習方法的教科書,專為時間序列分析設計,以提出該領域的基本概念以及實施的算法。
這本書專注于一般學習過程,尤其是深度學習的深層概念,更多地關注傳統方法和現代時間序列分析的基本要素。盡管圖像處理被認為是深度學習的重要主題,但作者們決定將此主題從本書中排除,將其分配給未來的單獨出版物。得出這個結論的主要理由是為了避免過多的多樣性和失去核心關注。本書從基本定義和推測平穩過渡到方法構建。書的內容以一種能夠培養和鞏固時間序列分析基本要素的方式進行了教學組織。這種表示方式旨在擴大讀者從科學到工程方面的視野。書中也考慮引出了一些深度學習方法在時間序列分析中的實際示例,隨著生物醫學工程和醫學信息學應用的興起。同時,本書以數學的方式表示深度學習方法,以幫助研究者和開發者以數學方式構建他們自己的方法。顯然,新方法的數學表示相比描述性表示有更好的可讀性。可以看出,新學生更傾向于使用塊狀圖和描述性方法來學習深度學習的概念。沉迷于這種學習方式可能會使他們在數學表示的基本能力上產生誤導,這可能對學習深度學習方法起到退化的作用。此外,在許多情況下都沒有看到一致的圖形表示。這本書也介紹了人工智能中的一些新想法。引入了A-Test驗證方法,并與其他傳統方法進行了比較。讀者可以輕松找到這種方法在提供與其他兩種替代方案相比更為現實的驗證中的詳細闡述。在學習模型方面,周期性時間序列和周期性學習是本書提出的另外兩個新概念,也引入了一些學習方法,如時間增長神經網絡,用于學習周期性時間序列。本書未涉及時間序列分析的生成模型。這些模型很適合納入預測類別,這被視為未來工作的一部分。
這本開放獲取的書籍討論了超圖計算的理論和方法。許多數據之間的底層關系可以用圖表來表示,例如在計算機視覺、分子化學、分子生物學等領域。在過去的十年中,人們開發了基于圖的學習和神經網絡方法來處理這類數據,它們特別適合處理關系學習任務。然而,在許多實際問題中,我們關心的對象之間的關系比兩兩之間的關系更復雜。簡單地將復雜的關系壓縮為兩兩的關系必然會導致信息的丟失,這些信息對于學習任務來說可以預期是有價值的。超圖作為圖的一種延伸,已經顯示出與圖相比在建模復雜關系方面的優越性能。近年來,超圖相關的AI方法的研究越來越受到歡迎,這些方法已經被用于計算機視覺、社交媒體分析等。我們將這些嘗試總結為一種新的計算范式,稱之為超圖計算,其目標是使用超圖來表述數據底層的高階關聯,然后針對不同的應用在超圖上進行語義計算。這本書的內容包括超圖計算范式、超圖建模、超圖結構演化、超圖神經網絡以及超圖計算在不同領域的應用。我們在這本書中進一步總結了超圖計算的近期成就和未來的發展方向。
//link.springer.com/book/10.1007/978-981-99-0185-2
這本書提出和調研歸一化技術與深度分析訓練深度神經網絡。此外,作者還提供了針對特定任務設計新的規范化方法和網絡體系結構的技術細節。歸一化方法可以提高深度神經網絡(DNNs)的訓練穩定性、優化效率和泛化能力,已成為大多數先進DNN體系結構的基本組成部分。作者為闡述、理解和應用規范化方法提供了指導方針。這本書是理想的讀者致力于發展新的深度學習算法和/或其應用程序,以解決計算機視覺和機器學習任務中的實際問題。這本書也作為資源的研究人員,工程師,和學生誰是新的領域和需要了解和訓練DNN。
//link.springer.com/book/10.1007/978-3-031-14595-7
許多應用,包括計算機視覺,計算機算法,深度學習,量子信息的糾纏,圖論和能源網絡,都可以在多項式優化的框架內成功解決,多項式優化是一個新興領域,在過去20年的研究越來越多。這些技術的一個關鍵優勢是它們能夠使用優化公式對廣泛的問題進行建模。多項式優化在很大程度上依賴于Lasserre提出的矩-平方和(矩-SOS)方法,該方法為正多項式提供了證明。然而,在實踐方面,天下沒有免費的午餐,這種優化方法通常包含嚴重的可擴展性問題。幸運的是,對于許多應用程序(包括前面提到的那些應用程序),我們可以正視問題,并利用描述問題的成本和約束所產生的固有數據結構。
//www.worldscientific.com/worldscibooks/10.1142/q0382#t=aboutBook
這本書提出了幾個研究努力,以解決這一科學挑戰與重要的計算含義。它提供了可選優化方案的開發,至少在某些已確定的問題類別中,這些方案在計算復雜度方面具有很好的擴展性。它還具有一個統一的建模框架,以處理涉及交換變量和非交換變量的廣泛應用,并解決具體的大規模實例。讀者可以找到一個實用的部分,專門介紹可用的開源軟件庫的使用。這本跨學科專著是學生,研究人員和專業人士的必要閱讀解決優化問題與多項式輸入數據感興趣。
背景知識 Preliminary Background:
本書提出了一些研究工作,以解決這一具有重要計算意義的科學挑戰,并提供了替代優化方案的發展,這些方案在計算復雜性方面可以很好地擴展,至少在一些確定的問題類中。
本書提出的算法框架主要利用輸入數據的稀疏性結構來解決大規模多項式優化問題。對于涉及較少項的無約束問題,第一種補救方法是通過丟棄從未出現在平方和分解(SOS)中的項來減小松弛項的大小。該技術基于Reznick [Rez78]的一個結果,包括計算輸入多項式的牛頓多邊形(該多項式支撐的凸包),并只選擇支撐位于該多邊形一半的多項式。
對于無約束或有約束多項式優化問題,我們提出松弛的稀疏利用層次結構。與密集的層次結構相比,它們在實踐中提供了更快的近似解,但也有相同的理論收斂保證。我們的框架不局限于靜態多項式優化,我們揭示了從動力系統分析中產生的感興趣值的近似層次。我們還提出了涉及非交換變量的各種擴展問題,例如任意大小的矩陣或量子物理算符。
在這一點上,我們想強調基于稀疏SOS分解的正性證書的替代方案的存在性。代替用SDP計算SOS分解,我們可以基于線性規劃(LP)計算Bernstein分解或Krivin - Stengle證書的其他正性證書,非負電路的幾何/二階錐規劃和擴展對角優勢SOS,算術幾何指數的相對熵規劃。本書還概述了這些不同的可選分解方法。第二點要強調的是,稀疏性的概念是許多科學領域固有的,我們概述了與本書中提出的算法框架的一些相似和不同之處。在機器學習、統計或信號處理的背景下,利用稀疏性歸結為選擇變量或特征,通常使用“1范數正則化”[BT09]。它通常用于使模型或預測更容易解釋或使用成本更低。換句話說,即使潛在的問題不允許稀疏解,人們仍然希望能夠找到最佳的稀疏近似。類似的情況發生在具有稀疏狀態約束和動力學的動力系統中,其中軌跡集不一定是稀疏的。在代數幾何的背景下,人們考慮了多項式方程的稀疏系統,其中稀疏意味著出現在每個方程中的項集合是固定的。Bernshtein定理[Ber75]是一個關鍵成分,因為它基于描述系統的多項式的牛頓多邊形的混合體積,為期望的復根數提供了精確的界限。我們同樣利用牛頓多面體提供的支持信息來構建基于術語稀疏性的層次結構(在第二部分中介紹)。
本書的組織結構如下:第一章回顧了半定規劃、稀疏矩陣理論的一些初步背景。第二章概述了多項式優化中矩- SOS層次的基本概念。本書的第一部分集中在“相關稀疏性”的概念上,當輸入問題的變量之間的相關性很少時,就會出現相關稀疏性。第三章基于相關稀疏性,討論了矩- SOS層次結構的第一個稀疏變體。第四章解釋了如何應用稀疏矩- SOS層次結構為浮點非線性程序提供有效的舍入誤差上界。第五章重點討論深度神經網絡的魯棒性驗證,特別是通過Lipschitz常數估計。第6章描述了非交換變量多項式優化的一個非常獨特的應用。我們概述了量子信息論的研究前景。
本書的第二部分提出了一個補充框架,在那里我們展示了如何利用一個獨特的稀疏性概念,稱為“術語稀疏性”,當輸入問題中涉及的術語數量很少時,通過與完全密集的情況進行比較,就會出現這種情況。第七章關注矩- SOS層次結構的第二個稀疏變體,基于術語稀疏性。第八章闡述了相關稀疏和術語稀疏的結合。第9章將術語稀疏框架擴展到復雜多項式優化,并展示了結果方案如何處理具有成千上萬個變量和約束的最優問題。第10章將利用項稀疏性的框架擴展到非交換多項式優化(即特征值優化)。第11章是關于這個術語稀疏框架的應用,以分析各種控制系統的穩定性,無論是來自網絡系統文獻或在截止日期約束下的系統。第12章介紹了改進多項式優化方法可擴展性的備選算法。首先,我們提出了基于非負電路多項式和的算法,最近介紹了稀疏多項式的非負證書類,它們獨立于已知的基于平方和的方法。然后,我們概述了現有的加快半定弛豫計算的方法。
過去幾十年見證了先進技術的快速發展和應用,導致了第四次工業革命。近年來,信息和通信技術的發展促使工業過程中加入智能,以推動持續改進、知識遷移和基于數據的決策。物聯網(IoT)是用于使工業組織快速自動化和數字化傳統業務流程的主要技術之一。收集的大量數據可以提供人工智能(AI)、大數據分析(Big data Analytics)和決策支持系統(Decision Support Systems, DSS)提供的實時分析解決方案,從而實現最優的工業運營。基于物聯網的現代技術,工業過程各個階段的數據收集、轉換和存儲過程變得更加簡單和高效,推動了大數據時代的到來。人工智能算法為開發物聯網中產生的豐富數據提供了強大的工具。通過從大數據中提取有用的信息和特征,人工智能算法可以智能高效地執行監控和優化生產過程等復雜任務。為了將人類的知識與上述結果相結合,將決策支持系統集成在一起,幫助管理者在工作中做出更好的決策。
在大數據時代,DSS對組織來說已經變得至關重要。機器學習是人工智能的一個子領域,是處理和分析大數據的一個有用的方法,與數據指令和人類驅動分析相結合的DSS。DSS應用程序可用于大量不同的領域,如進行操作決策、醫療診斷和預測性維護。關于決策支持系統的開發和應用,文獻中有大量的研究。在這本書中,章節以這樣一種方式提出,以探索機器學習和決策支持系統的概率圖模型的每一個重要方面。本書介紹了DSS的最新研究進展、新方法和技術,以及機器學習和概率圖模型的應用,這是從大數據中有效提取知識和解釋決策的非常強大的技術。本書致力于促進科學交流,思想和經驗在DSS應用領域。研究人員和從業人員都將受益于這本書,以提高對機器學習、概率圖模型的理解,特別是他們在不確定性決策環境下的DSS中的使用。在各個領域的真實案例研究與指導和這些研究的實際應用的建議,介紹在每一章。討論目前的研究、趨勢、未來的方向、機會等,使其適合初學者和年輕的研究人員。
本教程將是關于無監督學習和強化學習的交叉。隨著自然語言處理中基于語言模型的預訓練和計算機視覺中的對比學習的出現,無監督學習(UL)在過去幾年中真正得到了發展。在這些領域中,無監督預訓練的一些主要優勢是在下游有監督學習任務中出現的數據效率。在如何將這些技術應用于強化學習和機器人方面,社區中有很多人感興趣。考慮到問題的連續決策性質,RL和機器人技術比被動地從互聯網上的圖像和文本中學習面臨更大的挑戰,它可能不會那么簡單。本教程將涵蓋如何在強化學習中應用和使用無監督學習的基本模塊,希望人們可以帶回最新的最先進的技術和實踐的知識,以及在這個具有挑戰性和有趣的交叉領域的廣泛的未來可能性和研究方向。
人工智能的一個基本任務是學習。深度神經網絡已經被證明可以完美地處理所有的學習范式,即有監督學習、無監督學習和強化學習。然而,傳統的深度學習方法利用云計算設施,不能很好地擴展到計算資源低的自治代理。即使在云計算中,它們也受到計算和內存的限制,不能用來為假設有數十億神經元的網絡的代理建立適當的大型物理世界模型。這些問題在過去幾年中通過可擴展深度學習的新興主題得到了解決,該主題在訓練之前和整個過程中利用了神經網絡中的靜態和自適應稀疏連接。本教程將分兩部分介紹這些研究方向,重點是理論進展、實際應用和實踐經驗。
//sites.google.com/view/ijcai2020-sparse-training/home