形式化方法是保證計算機系統正確性與安全性的一種重要方法,其采用數學(邏輯)證明的手段對計算機系統進行建模、規約、分析、推理和驗證。
近年來,隨著世界各地的公司意識到需要改進驗證其產品的手段,驗證硬件和軟件系統的強大工具得到了發展。對形式推理基本方法的訓練要求越來越高,以使學生熟練掌握基于邏輯的驗證方法。這本成功的教科書的第二版解決了這兩個要求,通過繼續提供一個對形式推理的清晰介紹,它既與現代計算機科學的需求相關,又足夠嚴格的實際應用。對第一版的改進已經在整個過程中,與額外的和擴展的章節上的SAT解算器,存在/通用二階邏輯,微模型,通過契約編程和完全的正確性。模型檢查的覆蓋范圍已經得到了實質性的更新。還增加了進一步的練習。書的互聯網支持包括為教師的所有練習的工作的解決方案,和為學生的一些練習的模型解決方案。
本書由計算理論領域的知名MichaelSipser所撰寫。他以獨特的視角,地介紹了計算理論的三個主要內容:自動機與語言、可計算性理論和計算復雜性理論。作者以清新的筆觸、生動的語言給出了寬泛的數學原理,而沒有拘泥于某些低層次的細節。在證明之前,均有“證明思路”,幫助讀者理解數學形式下蘊涵的概念。本書可作為計算機高年級本科生和研究生的教材,也可作為教師和研究人員的參考書。
//staff.ustc.edu.cn/~huangwc/book/Sipser_Introduction.to.the.Theory.of.Computation.3E.pdf
本書是信息論領域中一本簡明易懂的教材。主要內容包括:熵、信源、信道容量、率失真、數據壓縮與編碼理論和復雜度理論等方面的介紹。
本書還對網絡信息論和假設檢驗等進行了介紹,并且以賽馬模型為出發點,將對證券市場研究納入了信息論的框架,從新的視角給投資組合的研究帶來了全新的投資理念和研究技巧。
本書適合作為電子工程、統計學以及電信方面的高年級本科生和研究生的信息論基礎教程教材,也可供研究人員和專業人士參考。
本書是一本簡明易懂的信息論教材。正如愛因斯坦所說:“凡事應該盡可能使其簡單到不能再簡單為止。''雖然我們沒有深人考證過該引語的來源(據說最初是在幸運蛋卷中發現的),但我們自始至終都將這種觀點貫穿到本書的寫作中。信息論中的確有這樣一些關鍵的思想和技巧,一旦掌握了它們、不僅使信息論的主題簡明,而且在處理新問題時提供重要的直覺。本書來自使用了十多年的信息論講義,原講義是信息論課程的高年級本科生和一年級研究生兩學期用的教材。本書打算作為通信理論.計算機科學和統計學專業學生學習信息論的教材。
信息論中有兩個簡明要點。第一,熵與互信息這樣的特殊量是為了解答基本問題而產生的。例如,熵是隨機變量的最小描述復雜度,互信息是度量在噪聲背景下的通信速率。另外,我們在以后還會提到,互信息相當于已知邊信息條件下財富雙倍的增長。第二,回答信息理論問邀的答案具有自然的代數結構。例如,熵具有鏈式法則,因而,謫和互信息也是相關的。因此,數據壓縮和通信中的問題得到廣泛的解釋。我們都有這樣的感受,當研究某個問題時,往往歷經大量的代數運算推理得到了結果,但此時沒有真正了解問題的全莪,最終是通過反復觀察結果,才對整個問題有完整、明確的認識。所以,對一個問題的全面理解,不是靠推理,而是靠對結果的觀察。要更具體地說明這一點,物理學中的牛頓三大定律和薛定諤波動方程也許是最合適的例子。誰曾預見過薛定諤波動方程后來會有如此令人敬畏的哲學解釋呢?
在本書中,我們常會在著眼于問題之前,先了解一下答案的性質。比如第2章中,我們定義熵、相對熵和互信息,研究它們之間的關系,再對這些關系作一點解釋·由此揭示如何融會貫通地使用各式各樣的方法解決實際問題。同理,我們順便探討熱力學第二定律的含義。熵總是增加嗎?答案既肯定也否定。這種結果會令專家感興趣,但初學者或i午認為這是必然的而不會深人考慮。
在實際教學中.教師往往會加人一自己的見解。事實上,尋找無人知道的證明或者有所創新的結果是一件很愉快的事情。如果有人將新的思想和已經證明的內容在課堂上講解給學生,那么不僅學生會積極反饋“對,對,對六而且會大大地提升教授該課程的樂崆我們正是這樣從研究本教材的許多新想法中獲得樂趣的。
本書加人的新素材實例包括信息論與博弈之間的關系,馬爾可夫鏈背景下熱力學第二定律的普遍性問題,信道容量定理的聯合典型性證明,赫夫曼碼的競爭最優性,以及關于最大熵譜密度估計的伯格(回定理的證明。科爾莫戈羅夫復雜度這一章也是本書的獨到之處。面將費希爾信息,互信息、中心極限定理以及布倫一閔可夫斯基不等式與熵冪不等式聯系在一起,也是我們引以為豪之處。令我們感到驚訝的是.關于行列式不等式的許多經典結論,當利用信息論不等式后會很容易得到證明。
自從香農的奠基性論文面世以來,盡管信息論已有了相當大的發展,但我們還是要努力強調它的連貫性。雖然香農創立信息論時受到通信理論中的問題啟發,然而我們認為信息論是一門獨立的學科,可應用于通信理論和統計學中。我們將信息論作為一個學科領域從通信理論、概率論和統計學的背景中獨立出來因為明顯不可能從這些學科中獲得難以理解的信息概念。由于本書中絕大多數結論以定理和證明的形式給出,所以,我們期望通過對這些定理的巧妙證明能說明這些結論的完美性。一般來講,我們在介紹問題之前先描述回題的解的性質,而這些很有的性質會使接下來的證明順理成章。
使用不等式串、中間不加任何文字、最后直接加以解釋,是我們在表述方式上的一項創新希望讀者學習我們所給的證明過程達到一定數量時,在沒有任何解釋的情況下就能理解其中的大部分步,并自己給出所需的解釋這些不等式串好比模擬到試題,讀者可以通過它們確認自己是否已掌握證明那些重要定理的必備知識。這些證明過程的自然流程是如此引人注目,以至于導致我們輕視了寫作技巧中的某條重要原則。由于沒有多余的話,因而突出了思路的邏輯性與主題思想u我們希望當讀者閱讀完本書后,能夠與我們共同分亨我們所推崇的,具有優美、簡潔和自然風格的信息論。
本書廣泛使用弱的典型序列的方法,此概念可以追溯到香農1948年的創造性工作,而它真正得到發展是在20世紀70年代初期。其中的主要思想就是所謂的漸近均分性(AEP),或許可以粗略地說成“幾乎一切事情都是等可能的"
第2章闡述了熵、相對熵和互信息之同的基本代數關系。漸近均分性是第3章重中之重的內容,這也使我們將隨機過程和數據壓縮的熵率分別放在第4章和第5章中論述。第6章介紹博弈,研究了數據壓縮的對偶性和財富的增長率。可作為對信息論進行理性思考基礎的科爾莫戈羅夫復雜度,擁有著巨大的成果,放在第14章中論述。我們的目標是尋找一個通用的最矩描述,而不是平均意義下的次佳描述。的確存在這樣的普遍性概念用來刻畫一個對象的復雜度。該章也論述了神奇數0,揭示數學上的不少奧秘,是圖靈機停止運轉概率的推廣。第7章論述信道容量定理。第8章敘述微分熵的必需知識,它們是將早期容量定理推廣到連續噪聲信道的基礎。基本的高斯信道容量問題在第9章中論述。第il章闡述信息論和統計學之間的關系,20世紀年代初期庫爾貝克首次對此進行了研究,此后相對被忽視。由于率失真理論比無噪聲數據壓縮理論需要更多的背景知識,因而將其放置在正文中比較靠后的第10章。
網絡信息理論是個大的主題,安排在第巧章,主要研究的是噪聲和干擾存在情形下的同時可達的信息流。有許多新的思想在網絡信息理論中開始活躍起來,其主要新要素有干擾和反饋第16章講述股票市場,這是第6章所討論的博弈的推廣,也再次表明了信息論和博弈之間的緊密聯系。第17章講述信息論中的不等式,我們借此一隅把散布于全書中的有趣不等式重新收攏在一個新的框架中,再加上一些關于隨機抽取子集熵率的有趣新不等式。集合和的體積的布倫一閔可夫斯基不等式,獨立隨機變量之和的有效方差的熵冪不等式以及費希爾信息不等式之間的美妙關系也將在此章中得到詳盡的闡述。
本書力求推理嚴密,因此對數學的要求相當高·要求讀者至少學過一學期的概率論課程且有扎實的數學背景,大致為本科高年級或研究生一年級水平。盡管如此,我們還是努力避免使用測度論。因為了解它只對第16章中的遍歷過程的AEP的證明過程起到簡化作用。這符合我們的觀點,那就是信息論基礎與技巧不同,后者才需要將所有推廣都寫進去。
本書的主體是第2,3,4,5,7,8,9,10,11和巧章,它們自成體系,讀懂了它們就可以對信息論有很好的理解。但在我們看來,第14章的科爾莫戈羅夫復雜度是深人理解信息論所需的必備知識。余下的幾章,從博弈到不等式.目的是使主題更加連貫和完美。
本書旨在介紹大數據處理的一些定義、方法、工具、框架和解決方案,從信息提取和知識表示的過程開始,通過知識處理和分析,再到可視化、意義構建和實際應用。本書的每一章都講述了數據處理鏈的一些相關方面,特別關注于理解企業知識圖、語義大數據架構和智能數據分析解決方案。這本書是針對研究生從技術學科,專業觀眾繼續教育短期課程,并研究人員從不同的領域自學課程。具備計算機科學、數學和統計學的基本技能。
//www.springer.com/gp/book/9783030531980
這本書系統性講述了統計學理論,包括概率理論、分布式理論與統計模型,基本統計理論、貝葉斯理論、無偏點估計、最大似然統計推斷、統計假設與置信集、非參與魯棒推斷。
第一門課程以對統計中有用的測量論概率論的概念和結果的簡要概述開始。隨后討論了統計決策理論和推理中的一些基本概念。探討了估計的基本方法和原理,包括各種限制條件下的最小風險方法,如無偏性或等方差法,最大似然法,以及矩法和其他插件方法等函數法。然后詳細地考慮了貝葉斯決策規則。詳細介紹了最小方差無偏估計的方法。主題包括統計量的充分性和完全性、 Fisher信息、估計量的方差的界、漸近性質和統計決策理論,包括極大極小和貝葉斯決策規則。
第二門課程更詳細地介紹了假設檢驗和置信集的原理。我們考慮了決策過程的表征,內曼-皮爾森引理和一致最有力的測試,置信集和推理過程的無偏性。其他主題包括等方差、健壯性和函數估計。
除了數理統計的經典結果外,還討論了馬爾可夫鏈蒙特卡洛理論、擬似然、經驗似然、統計泛函、廣義估計方程、折刀法和自舉法。
概率論起源于17世紀的法國,當時兩位偉大的法國數學家,布萊斯·帕斯卡和皮埃爾·德·費馬,對兩個來自機會博弈的問題進行了通信。帕斯卡和費馬解決的問題繼續影響著惠更斯、伯努利和DeMoivre等早期研究者建立數學概率論。今天,概率論是一個建立良好的數學分支,應用于從音樂到物理的學術活動的每一個領域,也應用于日常經驗,從天氣預報到預測新的醫療方法的風險。
本文是為數學、物理和社會科學、工程和計算機科學的二、三、四年級學生開設的概率論入門課程而設計的。它提出了一個徹底的處理概率的想法和技術為一個牢固的理解的主題必要。文本可以用于各種課程長度、水平和重點領域。
在標準的一學期課程中,離散概率和連續概率都包括在內,學生必須先修兩個學期的微積分,包括多重積分的介紹。第11章包含了關于馬爾可夫鏈的材料,為了涵蓋這一章,一些矩陣理論的知識是必要的。
文本也可以用于離散概率課程。材料被組織在這樣一種方式,離散和連續的概率討論是在一個獨立的,但平行的方式,呈現。這種組織驅散了對概率過于嚴格或正式的觀點,并提供了一些強大的教學價值,因為離散的討論有時可以激發更抽象的連續的概率討論。在離散概率課程中,學生應該先修一學期的微積分。
為了充分利用文中的計算材料和例子,假設或必要的計算背景很少。所有在文本中使用的程序都是用TrueBASIC、Maple和Mathematica語言編寫的。
這是為未來的科學家和工程師準備的微積分介紹的第二卷。第二卷是第一卷的延續,包括第六到第十二章。第六章介紹了向量、向量運算、向量的微分與積分及其應用。第七章研究了以向量形式表示的曲線和曲面,并研究了與這些形式相關的向量運算。此外,還研究了用矢量表示法表示密度、表面積和體積元素的方法。方向導數是與其他向量運算及其屬性一起定義的,因為這些額外的向量使我們能夠找到具有多個變量的函數的最大值和最小值。第八章研究標量場和向量場以及涉及這些量的運算。詳細研究了高斯散度定理、斯托克斯定理和平面上的格林定理及其相關應用。第九章介紹了來自科學和工程選定領域的向量的應用。第十章介紹了矩陣演算和差分演算。第十一章介紹了概率論和統計學。第十章和第十一章之所以出現,是因為在當今社會,技術發展正趨向于一個數字化的世界,學生們應該接觸到一些運算性的微積分,這是為了理解這些技術所需要的。第十二章是作為一個后續想法,介紹那些對數學的一些更高級的領域感興趣的人。
如果你是微積分的初學者,那么一定要確保你有適當的代數和三角的背景材料。如果你有不明白的地方,不要害怕向你的老師提問。去圖書館找一些其他的微積分書,從不同的角度來介紹這門學科。在因特網上,人們可以找到許多微積分的幫助。在因特網上,人們還可以找到許多關于微積分應用的說明。這些額外的學習輔助將向你展示在不同的微積分科目上有多種方法,應該有助于你的分析和推理技能的發展。
//www.math.odu.edu/~jhh/Volume-2.PDF
解鎖數據的力量,第二版繼續使用這些直觀的方法,如隨機化和自舉間隔介紹統計推斷的基本思想。這些方法通過真實相關的例子被賦予生命,通過易于使用的統計軟件,并可在課程的早期階段使用。這個項目包括更傳統的方法,如t檢驗,卡方文本等,但只有在學生對隨機方法的推理有了強烈的直覺理解之后。整個課程的重點是數據分析,主要目標是讓學生能夠有效地收集數據,分析數據,并解釋從數據中得出的結論。程序是由真實的數據和真實的應用驅動的。
這本書向讀者介紹點估計、置信區間和統計檢驗。基于線性模型的一般理論,本文對以下內容進行了深入的概述:固定效應、隨機效應和混合效應模型的方差分析;在擴展到非線性模型之前,回歸分析也首先出現在具有固定、隨機和混合效應的線性模型中;統計多決策問題,如統計選擇程序(Bechhofer和Gupta)和順序測試;從數理統計的角度設計實驗。大多數分析方法都補充了最小樣本量的公式。這些章節還包含了解答的提示練習。
隨著開放科學和開放資源的雙重運動將越來越多的科學過程帶入數字領域,科學本身的元科學研究(包括數據科學和統計)出現了新的機會。未來的科學很可能看到機器在處理、組織甚至創造科學知識方面發揮積極作用。為了使這成為可能,必須進行大量的工程努力來將科學工件轉化為有用的計算資源,并且必須在科學理論、模型、實驗和數據的組織方面取得概念上的進展。本論文的目標是將數據科學的兩大主要產物——統計模型和數據分析——數字化和系統化。使用來自代數的工具,特別是分類邏輯,在統計和邏輯的模型之間進行了精確的類比,使統計模型在邏輯意義上被視為理論的模型。統計理論,作為代數結構,服從機器表示,并配備了形式化不同統計方法之間的關系的形態。從數學轉向工程,設計和實現了一個軟件系統,用于以Python或R程序的形式創建數據分析的機器表示。表示的目的是捕獲數據分析的語義,獨立于實現它們的編程語言和庫。