這本第五版現代圖論之標準教科書糅合了經典著作的杈威及生動活潑的吸引風格;此風格 正是動態數學的標記。此書以簡潔而可靠的完整証明闡述圖論的核心內容;亦透過一兩個例子,配合詳盡證明其深入結果,讓讀者涉獵每一個領域 的高深方法。
這書可作為導論課程的可靠教科書,或研究生讀本及自修之用。
用于機器學習的貝葉斯方法已經被廣泛研究,產生了將先驗信息納入推理算法的原則方法。本文對貝葉斯方法在強化學習(RL)范式中的作用進行了深入的評述。在RL中整合貝葉斯推理的主要動機是,它提供了一種優雅的行動選擇(探索/開發)方法,作為學習中的不確定性的函數,并且它提供了一種將先驗知識整合到算法中的機制。
貝葉斯強化學習:綜述首先討論了簡單單步Bandit模型中的貝葉斯推理模型和方法。然后回顧了最近關于基于模型的RL的貝葉斯方法的廣泛文獻,其中先驗信息可以表達在馬爾可夫模型的參數上。它還提出了無模型RL的貝葉斯方法,其中先驗是在值函數或策略類上表示的。
《貝葉斯強化學習》是一個全面的參述,為學生和研究人員與興趣的貝葉斯RL算法及其理論和經驗性質。
組合學是研究有限或可數離散結構的數學分支。組合學的方面包括計算給定種類和大小的結構(枚舉組合學),決定何時可以滿足某些標準,以及構造和分析滿足標準的對象(如在組合設計和矩陣理論中),找到“最大”,“最小”,或“最優”對象(極值組合學和組合優化學),以及在代數背景下研究組合結構,或將代數技術應用于組合問題(代數組合學)。
圖論是對圖的研究,圖是用來建模對象之間的成對關系的數學結構。在這種情況下,“圖”是由“頂點”或“節點”和連接它們的線(稱為邊)組成的。一個圖可以是無向的,這意味著與每條邊關聯的兩個頂點之間沒有區別,或者它的邊可以從一個頂點指向另一個頂點;參見圖表(數學)以獲得更詳細的定義,以及通常被認為是圖表類型的其他變體。圖是離散數學的主要研究對象之一。
這本書讓讀者了解組合學和圖論的經典部分,同時也討論了這一領域的一些最新進展:一方面,提供幫助學生學習基本技術的材料,另一方面,表明一些研究前沿的問題是可以理解的,對有才華和勤奮的本科生來說是容易理解的。
大量大維度數據是現代機器學習(ML)的默認設置。標準的ML算法,從支持向量機這樣的內核方法和基于圖的方法(如PageRank算法)開始,最初的設計是基于小維度的,在處理真實世界的大數據集時,即使不是完全崩潰的話,往往會表現失常。隨機矩陣理論最近提出了一系列廣泛的工具來幫助理解這種新的維數詛咒,幫助修復或完全重建次優算法,最重要的是提供了處理現代數據挖掘的新方向。本編著的主要目的是提供這些直覺,通過提供一個最近的理論和應用突破的隨機矩陣理論到機器學習摘要。針對廣泛的受眾,從對統計學習感興趣的本科生到人工智能工程師和研究人員,這本書的數學先決條件是最小的(概率論、線性代數和真實和復雜分析的基礎是足夠的):與隨機矩陣理論和大維度統計的數學文獻中的介紹性書籍不同,這里的理論重點僅限于機器學習應用的基本要求。這些應用范圍從檢測、統計推斷和估計,到基于圖和核的監督、半監督和非監督分類,以及神經網絡: 為此,本文提供了對算法性能的精確理論預測(在不采用隨機矩陣分析時往往難以實現)、大維度的洞察力、改進方法,以及對這些方法廣泛適用于真實數據的基本論證。該專著中提出的大多數方法、算法和圖形都是用MATLAB和Python編寫的,讀者可以查閱(//github.com/Zhenyu-LIAO/RMT4ML)。本專著也包含一系列練習兩種類型:短的練習與修正附加到書的最后讓讀者熟悉隨機矩陣的基本理論概念和工具分析,以及長期指導練習應用這些工具進一步具體的機器學習應用程序。
圖論因其在計算機科學、通信網絡和組合優化方面的應用而成為一門重要的學科。它與其他數學領域的互動也越來越多。雖然這本書可以很好地作為圖表理論中許多最重要的主題的參考,但它甚至正好滿足了成為一本有效的教科書的期望。主要關注的是服務于計算機科學、應用數學和運籌學專業的學生,確保滿足他們對算法的需求。在材料的選擇和介紹方面,已試圖在基本的基礎上容納基本概念,以便對那些剛進入這一領域的人提供指導。此外,由于它既強調定理的證明,也強調應用,所以應該先吸收主題,然后對主題的深度和方法有一個印象。本書是一篇關于圖論的綜合性文章,主題是有組織的、系統的。這本書在理論和應用之間取得了平衡。這本書以這樣一種方式組織,主題出現在完美的順序,以便于學生充分理解主題。這些理論已經用簡單明了的數學語言進行了描述。這本書各方面都很完整。它將為主題提供一個完美的開端,對主題的完美理解,以及正確的解決方案的呈現。本書的基本特點是,概念已經用簡單的術語提出,并詳細解釋了解決過程。
這本書有10章。每一章由緊湊但徹底的理論、原則和方法的基本討論組成,然后通過示例進行應用。本書所介紹的所有理論和算法都通過大量的算例加以說明。這本書在理論和應用之間取得了平衡。第一章介紹圖。第一章描述了同構、完全圖、二部圖和正則圖的基本和初等定義。第二章介紹了不同類型的子圖和超圖。本章包括圖形運算。第二章還介紹了步行、小徑、路徑、循環和連通或不連通圖的基本定義。第三章詳細討論了歐拉圖和哈密頓圖。第四章討論樹、二叉樹和生成樹。本章深入探討了基本電路和基本割集的討論。第五章涉及提出各種重要的算法,在數學和計算機科學中是有用的。第六章的數學前提包括線性代數的第一個基礎。矩陣關聯、鄰接和電路在應用科學和工程中有著廣泛的應用。第七章對于討論割集、割頂點和圖的連通性特別重要。第八章介紹了圖的著色及其相關定理。第九章著重介紹了平面圖的基本思想和有關定理。最后,第十章給出了網絡流的基本定義和定理。
近年來,圖論已經成為一個重要的數學工具在廣泛的學科,從運籌學和化學到遺傳學和語言學,從電氣工程和地理學到社會學和建筑學。與此同時,它本身也成為一門有價值的數學學科。鑒于此,有必要編寫一份廉價的關于這一主題的介紹性文本,既適合學習圖論課程的數學家,也適合希望盡快學習這一主題的非專業人士。我希望這本書能在某種程度上滿足這一需求。閱讀它的唯一先決條件是初等集合理論和矩陣理論的基本知識,盡管抽象代數的進一步知識需要更困難的練習。
這本書的內容可以很方便地分為四部分。第一部分(1-4章)提供了一個基本的基礎課程,包括圖的定義和例子,連通性,歐拉和哈密頓路徑和循環,以及樹。接下來是關于平面性和著色的兩章(第5章和第6章),特別提到了四色定理。第三部分(第7章和第8章)討論有向圖理論和截線理論,以及在關鍵路徑分析、馬爾可夫鏈和網絡流中的應用。書的最后一章是關于matroids的(第9章),這一章將前幾章的材料聯系在一起,并介紹了一些最近的發展。
高效數據結構的設計和分析長期以來被認為是計算機領域的一個重要學科,是計算機科學和計算機工程本科學位的核心課程的一部分。Python中的數據結構和算法介紹了數據結構和算法,包括它們的設計、分析和實現。本書適用于入門級數據結構課程,或中級算法入門課程。我們將在本序言后面更詳細地討論它在此類課程中的使用。
為了促進魯棒的和可重用的軟件的開發,我們試圖在整本書中采取一致的面向對象的觀點。面向對象方法的主要思想之一是,數據應該被封裝在訪問和修改它們的方法中。也就是說,不是簡單地將數據看作字節和地址的集合,而是將數據對象看作抽象數據類型(ADT)的實例,ADT包含了對這種類型的數據對象執行操作的一整套方法。然后我們強調,對于特定的ADT可能有幾種不同的實現策略,并探討這些選擇的優缺點。我們為幾乎所有討論過的數據結構和算法提供了完整的Python實現,我們還引入了重要的面向對象設計模式,將這些實現組織成可重用的組件。
我們書的讀者期望的結果包括: 他們了解最常見的數據集合抽象(如堆棧、隊列、列表、樹、地圖)。 他們理解算法產生有效的實現策略常見的數據結構。 他們可以從理論上和實驗上分析算法性能,并識別競爭策略之間的共同權衡。 他們可以明智地使用現代編程語言庫中現有的數據結構和算法。 他們有處理大多數基本數據結構和算法的具體實現的經驗。 他們可以運用數據結構和算法來解決復雜的問題。
//www.wiley.com/en-us/Data+Structures+and+Algorithms+in+Python-p-9781118290279
本書由計算理論領域的知名MichaelSipser所撰寫。他以獨特的視角,地介紹了計算理論的三個主要內容:自動機與語言、可計算性理論和計算復雜性理論。作者以清新的筆觸、生動的語言給出了寬泛的數學原理,而沒有拘泥于某些低層次的細節。在證明之前,均有“證明思路”,幫助讀者理解數學形式下蘊涵的概念。本書可作為計算機高年級本科生和研究生的教材,也可作為教師和研究人員的參考書。
//staff.ustc.edu.cn/~huangwc/book/Sipser_Introduction.to.the.Theory.of.Computation.3E.pdf
本書是信息論領域中一本簡明易懂的教材。主要內容包括:熵、信源、信道容量、率失真、數據壓縮與編碼理論和復雜度理論等方面的介紹。
本書還對網絡信息論和假設檢驗等進行了介紹,并且以賽馬模型為出發點,將對證券市場研究納入了信息論的框架,從新的視角給投資組合的研究帶來了全新的投資理念和研究技巧。
本書適合作為電子工程、統計學以及電信方面的高年級本科生和研究生的信息論基礎教程教材,也可供研究人員和專業人士參考。
本書是一本簡明易懂的信息論教材。正如愛因斯坦所說:“凡事應該盡可能使其簡單到不能再簡單為止。''雖然我們沒有深人考證過該引語的來源(據說最初是在幸運蛋卷中發現的),但我們自始至終都將這種觀點貫穿到本書的寫作中。信息論中的確有這樣一些關鍵的思想和技巧,一旦掌握了它們、不僅使信息論的主題簡明,而且在處理新問題時提供重要的直覺。本書來自使用了十多年的信息論講義,原講義是信息論課程的高年級本科生和一年級研究生兩學期用的教材。本書打算作為通信理論.計算機科學和統計學專業學生學習信息論的教材。
信息論中有兩個簡明要點。第一,熵與互信息這樣的特殊量是為了解答基本問題而產生的。例如,熵是隨機變量的最小描述復雜度,互信息是度量在噪聲背景下的通信速率。另外,我們在以后還會提到,互信息相當于已知邊信息條件下財富雙倍的增長。第二,回答信息理論問邀的答案具有自然的代數結構。例如,熵具有鏈式法則,因而,謫和互信息也是相關的。因此,數據壓縮和通信中的問題得到廣泛的解釋。我們都有這樣的感受,當研究某個問題時,往往歷經大量的代數運算推理得到了結果,但此時沒有真正了解問題的全莪,最終是通過反復觀察結果,才對整個問題有完整、明確的認識。所以,對一個問題的全面理解,不是靠推理,而是靠對結果的觀察。要更具體地說明這一點,物理學中的牛頓三大定律和薛定諤波動方程也許是最合適的例子。誰曾預見過薛定諤波動方程后來會有如此令人敬畏的哲學解釋呢?
在本書中,我們常會在著眼于問題之前,先了解一下答案的性質。比如第2章中,我們定義熵、相對熵和互信息,研究它們之間的關系,再對這些關系作一點解釋·由此揭示如何融會貫通地使用各式各樣的方法解決實際問題。同理,我們順便探討熱力學第二定律的含義。熵總是增加嗎?答案既肯定也否定。這種結果會令專家感興趣,但初學者或i午認為這是必然的而不會深人考慮。
在實際教學中.教師往往會加人一自己的見解。事實上,尋找無人知道的證明或者有所創新的結果是一件很愉快的事情。如果有人將新的思想和已經證明的內容在課堂上講解給學生,那么不僅學生會積極反饋“對,對,對六而且會大大地提升教授該課程的樂崆我們正是這樣從研究本教材的許多新想法中獲得樂趣的。
本書加人的新素材實例包括信息論與博弈之間的關系,馬爾可夫鏈背景下熱力學第二定律的普遍性問題,信道容量定理的聯合典型性證明,赫夫曼碼的競爭最優性,以及關于最大熵譜密度估計的伯格(回定理的證明。科爾莫戈羅夫復雜度這一章也是本書的獨到之處。面將費希爾信息,互信息、中心極限定理以及布倫一閔可夫斯基不等式與熵冪不等式聯系在一起,也是我們引以為豪之處。令我們感到驚訝的是.關于行列式不等式的許多經典結論,當利用信息論不等式后會很容易得到證明。
自從香農的奠基性論文面世以來,盡管信息論已有了相當大的發展,但我們還是要努力強調它的連貫性。雖然香農創立信息論時受到通信理論中的問題啟發,然而我們認為信息論是一門獨立的學科,可應用于通信理論和統計學中。我們將信息論作為一個學科領域從通信理論、概率論和統計學的背景中獨立出來因為明顯不可能從這些學科中獲得難以理解的信息概念。由于本書中絕大多數結論以定理和證明的形式給出,所以,我們期望通過對這些定理的巧妙證明能說明這些結論的完美性。一般來講,我們在介紹問題之前先描述回題的解的性質,而這些很有的性質會使接下來的證明順理成章。
使用不等式串、中間不加任何文字、最后直接加以解釋,是我們在表述方式上的一項創新希望讀者學習我們所給的證明過程達到一定數量時,在沒有任何解釋的情況下就能理解其中的大部分步,并自己給出所需的解釋這些不等式串好比模擬到試題,讀者可以通過它們確認自己是否已掌握證明那些重要定理的必備知識。這些證明過程的自然流程是如此引人注目,以至于導致我們輕視了寫作技巧中的某條重要原則。由于沒有多余的話,因而突出了思路的邏輯性與主題思想u我們希望當讀者閱讀完本書后,能夠與我們共同分亨我們所推崇的,具有優美、簡潔和自然風格的信息論。
本書廣泛使用弱的典型序列的方法,此概念可以追溯到香農1948年的創造性工作,而它真正得到發展是在20世紀70年代初期。其中的主要思想就是所謂的漸近均分性(AEP),或許可以粗略地說成“幾乎一切事情都是等可能的"
第2章闡述了熵、相對熵和互信息之同的基本代數關系。漸近均分性是第3章重中之重的內容,這也使我們將隨機過程和數據壓縮的熵率分別放在第4章和第5章中論述。第6章介紹博弈,研究了數據壓縮的對偶性和財富的增長率。可作為對信息論進行理性思考基礎的科爾莫戈羅夫復雜度,擁有著巨大的成果,放在第14章中論述。我們的目標是尋找一個通用的最矩描述,而不是平均意義下的次佳描述。的確存在這樣的普遍性概念用來刻畫一個對象的復雜度。該章也論述了神奇數0,揭示數學上的不少奧秘,是圖靈機停止運轉概率的推廣。第7章論述信道容量定理。第8章敘述微分熵的必需知識,它們是將早期容量定理推廣到連續噪聲信道的基礎。基本的高斯信道容量問題在第9章中論述。第il章闡述信息論和統計學之間的關系,20世紀年代初期庫爾貝克首次對此進行了研究,此后相對被忽視。由于率失真理論比無噪聲數據壓縮理論需要更多的背景知識,因而將其放置在正文中比較靠后的第10章。
網絡信息理論是個大的主題,安排在第巧章,主要研究的是噪聲和干擾存在情形下的同時可達的信息流。有許多新的思想在網絡信息理論中開始活躍起來,其主要新要素有干擾和反饋第16章講述股票市場,這是第6章所討論的博弈的推廣,也再次表明了信息論和博弈之間的緊密聯系。第17章講述信息論中的不等式,我們借此一隅把散布于全書中的有趣不等式重新收攏在一個新的框架中,再加上一些關于隨機抽取子集熵率的有趣新不等式。集合和的體積的布倫一閔可夫斯基不等式,獨立隨機變量之和的有效方差的熵冪不等式以及費希爾信息不等式之間的美妙關系也將在此章中得到詳盡的闡述。
本書力求推理嚴密,因此對數學的要求相當高·要求讀者至少學過一學期的概率論課程且有扎實的數學背景,大致為本科高年級或研究生一年級水平。盡管如此,我們還是努力避免使用測度論。因為了解它只對第16章中的遍歷過程的AEP的證明過程起到簡化作用。這符合我們的觀點,那就是信息論基礎與技巧不同,后者才需要將所有推廣都寫進去。
本書的主體是第2,3,4,5,7,8,9,10,11和巧章,它們自成體系,讀懂了它們就可以對信息論有很好的理解。但在我們看來,第14章的科爾莫戈羅夫復雜度是深人理解信息論所需的必備知識。余下的幾章,從博弈到不等式.目的是使主題更加連貫和完美。
這本書的書名聽起來有點神秘。如果這本書以一種錯誤的方式呈現了這個主題,人們為什么要讀它呢?書中哪些地方做得特別“不對”?
在回答這些問題之前,讓我先描述一下本文的目標受眾。這本書是“榮譽線性代數”課程的課堂講稿。這應該是高等數學學生的第一門線性代數課程。它的目標是一個學生,雖然還不是非常熟悉抽象推理,但愿意學習更嚴格的數學,在“烹飪書風格”的微積分類型課程。除了作為線性代數的第一門課程,它也應該是第一門向學生介紹嚴格證明、形式定義——簡而言之,現代理論(抽象)數學風格的課程。
目標讀者解釋了基本概念和具體實例的非常具體的混合,它們通常出現在介紹性的線性代數文本中,具有更抽象的定義和高級書籍的典型構造。
統計學正迅速成為數學中最重要的多學科領域。據美國統計協會稱,統計學是增長最快的10個職業之一,而統計學是增長最快的學士學位之一。統計素養對我們這個數據驅動的社會至關重要。盡管對統計能力的重要性和需求增加,但統計方面的教學方法幾乎沒有改變。使用Mike Bostock的數據可視化軟件,D3.js,看到理論可視化的基本概念所涵蓋的大學統計學導論或大學預修課程的統計。我們鼓勵學生將視覺理論作為教科書、教授和同學的額外資源。
來自斯坦福大學的一位研究生和他的伙伴們開發了一本頗有新意的統計概率入門教材,與傳統教材不同的是,這本書充分利用了數據可視化技術,交互性和趣味性都非常強,可以邊讀邊玩。
該書共分為 6 章,分別為基礎概率論、進階概率論、概率分布、統計推斷:頻率學派、統計推斷:貝葉斯學派和回歸分析,每章分為三個小節,如圖所示: