深度學習“黑匣子”之探索。這本全面且詳盡的指南揭示了深度學習模型背后的數學和架構概念,使您能夠更有效地定制、維護和解釋它們。在《深度學習的數學和架構》一書中,您將找到:
深度學習模型背后的數學范式通常始于難以閱讀的學術論文,使工程師對這些模型的實際功能一無所知。《深度學習的數學和架構》一書彌合了理論與實踐之間的鴻溝,將深度學習的數學與Python和PyTorch的實際實現并列展示。由深度學習專家Krishnendu Chaudhury撰寫,您將窺視“黑匣子”內部,理解您的代碼如何工作,并學會如何將前沿研究轉化為實際應用。 序言作者:Prith Banerjee。 購買紙質書包括從Manning出版社免費獲取PDF、Kindle和ePub格式的電子書。 關于技術 探索黑匣子內部的秘密!在使用深度學習時,您需要選擇正確的模型,訓練它,預處理您的數據,評估性能和準確性,并處理部署解決方案的輸出中的不確定性和變異性。本書將系統地引導您了解作為工作數據科學家所需的核心數學概念:向量微積分、線性代數和貝葉斯推斷,都是從深度學習的角度出發。 關于本書 《深度學習的數學和架構》教授深度學習模型的數學、理論和編程原則,并將它們并列展示,然后通過帶注釋的Python代碼將它們付諸實踐。您將從代數、微積分和統計學一路進展到采用最新研究成果的前沿DL架構。 書中內容
關于讀者 讀者需要了解Python及代數和微積分的基礎知識。 關于作者 Krishnendu Chaudhury是AI初創公司Drishti Technologies的聯合創始人兼首席技術官。他此前在Google和Adobe各工作了十年。 目錄
貝葉斯優化幫助您快速準確地找到最佳的機器學習模型配置。通過這本實用指南,將其先進技術付諸實踐。 在《貝葉斯優化實戰》中,您將學習如何:
適用于讀者: 適合對數學和統計學有信心的機器學習從業者。關于作者: Quan Nguyen是圣路易斯華盛頓大學的研究助理。他為Python軟件基金會撰寫文章,并撰寫了多本關于Python編程的書籍。目錄: 1 貝葉斯優化簡介 第一部分 使用高斯過程建模 2 將高斯過程視為函數分布 3 使用均值和協方差函數自定義高斯過程 第二部分 使用貝葉斯優化做決策 4 使用改進基策略細化最佳結果 5 使用土匪風格策略探索搜索空間 6 使用信息理論的熵基策略 第三部分 將貝葉斯優化擴展到特定設置 7 使用批量優化最大化吞吐量 8 使用約束優化滿足額外約束 9 使用多保真優化平衡效用和成本 10 使用偏好優化從成對比較中學習 11 同時優化多個目標 第四部分 特殊的高斯過程模型 12 將高斯過程擴展到大型數據集 13 將高斯過程與神經網絡結合封底簡介: 《貝葉斯優化實戰》教您如何從頭開始構建貝葉斯優化系統。這本書將最先進的研究轉化為您可以輕松實踐的可用技術——所有這些都配有有用的代碼樣本。 您將通過吸引人的示例來提高對貝葉斯優化的理解——從預測天氣到找到咖啡的最佳糖量,甚至決定某人是否有心靈感應!在此過程中,您將探索具有多個目標的情景,每個決策都有自己的成本,以及當反饋以成對比較的形式出現時。有了這些技術的集合,您將準備好為一切找到最佳解決方案——從運輸和物流到癌癥治療。適用于讀者: 適合對數學和統計學有信心的機器學習從業者。關于作者: Quan Nguyen是Python程序員和機器學習愛好者。他對涉及不確定性的決策問題感興趣。Quan已經撰寫了多本關于Python編程和科學計算的書籍。他目前正在圣路易斯華盛頓大學攻讀計算機科學博士學位,他在那里研究機器學習中的貝葉斯方法。亞馬遜頁面"
解鎖強化學習(RL)全部潛力:本綜合指南將深入探索人工智能的一個關鍵子領域。這本書深入介紹了強化學習的核心概念、數學原理和實用算法,幫助您全面理解這項前沿技術。 從馬爾可夫決策過程、動態規劃、蒙特卡洛方法和時差學習等基本概念概述開始,本書使用清晰、簡潔的示例解釋了RL理論的基礎知識。接下來的部分涵蓋了價值函數近似這一強化學習中的關鍵技術,并探索了各種策略近似方法,如策略梯度方法和像近端策略優化(PPO)這樣的高級算法。 本書還深入探討了分布式強化學習、好奇心驅動的探索以及著名的AlphaZero算法等高級主題,為讀者提供了這些前沿技術的詳細介紹。 注重解釋算法及其背后的直覺,《強化學習的藝術》包括了您可以用來實現RL算法的實用源代碼示例。完成本書后,您將深入理解強化學習背后的概念、數學和算法,成為人工智能從業者、研究人員和學生的必備資源。 您將學到什么: * 掌握強化學習的基本概念和特點,包括它與其他AI和非交互式機器學習方法的區別 * 將問題建模為馬爾可夫決策過程,以及如何使用動態規劃、蒙特卡洛方法和時差學習評估和優化策略 * 利用近似價值函數和策略的技術,包括線性和非線性價值函數近似以及策略梯度方法 * 了解分布式強化學習的架構和優勢 * 掌握好奇心驅動探索的概念,以及如何利用它來改進強化學習代理 * 探索AlphaZero算法以及它如何能夠擊敗職業圍棋選手
本書適合誰閱讀: * 想要在他們的項目和應用中融入強化學習算法的機器學習工程師、數據科學家、軟件工程師和開發人員。
現在是學習集成方法的最佳時機。本書介紹的模型主要分為三類。 //www.manning.com/books/ensemble-methods-for-machine-learning
基礎集成方法——每個人都聽說過的經典方法,包括歷史集成技術,如bagging、隨機森林和AdaBoost * 最先進的集成方法——現代集成時代經過試驗和測試的強大工具,它們構成了許多現實世界中生產中的預測、推薦和搜索系統的核心 * 新興的集成方法-最新的方法的研究代工廠處理新的需求和新興的優先級,如可解釋性
每一章將介紹一種不同的集成技術,使用三管齊下的方法。首先,你將通過逐步可視化學習實際是如何進行的,了解每種集成方法背后的直覺。其次,你將自己實現每個集成方法的基本版本,以完全理解算法的具體細節。第三,你將學習如何實際應用強大的集成庫和工具。 大多數章節都有自己的案例研究,這些案例來自手寫數字預測、推薦系統、情感分析、需求預測等應用。這些案例研究在適當的情況下解決了幾個現實世界的問題,包括預處理和特征工程,超參數選擇,高效的訓練技術和有效的模型評估。 本書分為三部分,共九章。第1部分是集成方法的簡單介紹,第2部分介紹并解釋了幾個基本的集成方法,第3部分涵蓋了高級主題。 第1部分,“集成的基礎”,介紹集成方法以及為什么你應該關注它們。這一部分還包含本書其余部分將介紹的集成方法的路線圖。 ?第1章討論了集成方法和基本的集成術語。它還引入了適應性與復雜性的權衡(或者更正式的叫法是偏差-方差權衡)。你將在本章中構建第一個集成。 第2部分,“基本集成方法”,介紹了幾個重要的集成方法族,其中許多被認為是“基本的”,在現實世界的應用中廣泛使用。在每一章中,你都將學習如何從零開始實現不同的集成方法,它們的工作原理,以及如何將它們應用于實際問題。
?第2章開始我們的旅程,平行集成方法,特別是平行同質集成。集成方法包括bagging、隨機森林、粘貼、隨機子空間、隨機補丁和額外的樹。 ?第3章繼續介紹更多并行集成,但本章的重點是并行異構集成。介紹的集成方法包括通過多數投票組合基礎模型、通過加權組合、使用Dempster-Shafer進行預測融合以及通過堆疊進行元學習。 ?第4章介紹了另一類集成方法——順序自適應集成——特別是將許多弱模型提升為一個強大模型的基本概念。介紹的集成方法包括Ada- Boost和LogitBoost。 ?第5章建立在boosting的基本概念之上,并涵蓋了另一種基本的序列集成方法,梯度boosting,它將梯度下降與boosting相結合。本章將討論如何使用scikit-learn和LightGBM訓練梯度增強集成。 ?第6章繼續探索牛頓boosting的序列集成方法,牛頓boosting是梯度boosting的有效擴展,結合了牛頓下降和boosting。本章將討論如何使用XGBoost訓練Newton boosting集合。 第3部分“實際應用中的集成:使集成方法適用于數據”向您展示了如何將集成方法應用于許多場景,包括具有連續和計數型標簽的數據集以及具有分類特征的數據集。你還將學習如何解釋集合以及它們的預測: ?第7章展示了我們如何為不同類型的回歸問題和廣義線性模型訓練集成,其中訓練標簽是連續的或計數的。本章涵蓋了線性回歸、泊松回歸、伽馬回歸和Tweedie回歸的并行和順序集成。 ?第8章確定了使用非數值特征學習的挑戰,特別是分類特征,以及將幫助我們為此類數據訓練有效集成的編碼方案。本章還討論了兩個重要的實際問題:數據泄漏和預測偏移。最后,我們將看到如何使用ordered boosting和CatBoost克服這些問題。 ?第9章從集成方法的角度涵蓋了新興的非常重要的主題可解釋人工智能。本章將介紹可解釋性的概念以及它的重要性。還討論了幾種常見的黑盒可解釋性方法,包括排列特征重要性、部分依賴圖、代理方法、局部可解釋的模型無關解釋、Shapley值和Shapley加性解釋。介紹了玻璃盒集成方法、可解釋增強機和InterpretML包。 ?結語以其他主題結束我們的旅程,以供進一步探索和閱讀。
面向數據編程是介紹面向數據范式的獨一無二的指南。這種開創性的方法用通用的不可變數據結構表示數據。它簡化了狀態管理,簡化了并發性,并消除了在面向對象代碼中會發現的常見問題。這本書通過對話、代碼片段和圖表展示了強大的新思想,幫助您快速了解關于DOP的偉大之處。最重要的是,該范例與語言無關,您將學習編寫可以用JavaScript、Ruby、Python、Clojure實現的DOP代碼,也可以用傳統的OO語言(如Java或c#)實現。
//www.manning.com/books/data-oriented-programming
面向數據的編程是為了幫助開發人員降低他們構建的系統的復雜性而編寫的。本書中的思想主要適用于操作信息的系統,如前端應用程序、后端Web服務器或Web服務。
這本書講述了一個故事,說明了面向數據編程(DOP)的價值,以及如何在現實生產系統中應用它的原則。我的建議是跟著故事走,按順序讀各個章節。然而,如果有些章節比其他章節更能激發你的好奇心,請注意,第一部分和第7部分的材料是需要理解第二和第三部分的。在本書中,我們使用Lodash ()來說明如何使用泛型函數操作數據。如果您正在閱讀的代碼片段使用的是您不熟悉的Lodash函數,您可以參考附錄D來理解函數的行為。第1部分,靈活性,包含六個章節,重點介紹了傳統面向對象編程(OOP)的挑戰,并將面向數據編程(DOP)放在中心位置,揭示了如何使用DOP的基本原則來構建靈活的系統。這些章節是這樣排列的:
在第一章“面向對象編程的復雜性”中,我們將討論面向對象編程的復雜性。然后,我們的DOP傳奇開始了!聽一聽高級開發人員Theo和他前途無量的同事Dave之間的對話。對Theo與OOP的復雜性作斗爭感到同情,并發現嘗試不同編程范式的一個極好的理由。
第二章,代碼和數據的分離,我們的朋友Theo正在尋找一種解決方案,可以降低系統的復雜性,增加系統的靈活性。他的工作有危險。Joe是一位經驗豐富的開發人員,他有一個答案——dop。了解DOP原則#1如何幫助降低信息系統的復雜性。
第三章,基本數據操作,探討了如何通過應用DOP原則#2,將數據從類剛性的封裝中解放出來,并使用泛型函數自由地操作它。Vive la革命!
第四章,狀態管理,通過多版本方法探索狀態管理,通過將系統恢復到以前的狀態,讓我們回到過去,因為在DOP中,狀態只是數據。時間旅行是真實存在的!
第五章,基本并發控制,通過應用樂觀并發控制策略,幫助我們在并發系統中獲得高的讀寫吞吐量。不需要玫瑰色的眼鏡!
第六章,單元測試,提供了一杯咖啡…與喬!我們的朋友Joe證明了面向數據的代碼單元測試非常簡單,你可以在咖啡店里完成它。喝杯茶,了解一下為什么它如此簡單——即使是突變!當你和Joe一起寫DOP單元測試的時候。它很酷豆!
第2部分 (可擴展性)演示了如何大規模構建DOP系統,重點關注數據驗證、多線程環境、大型數據集合、數據庫訪問和web服務。需要超大的系統?沒問題!
第7章,基本數據驗證,教我們如何確保數據進出我們的系統是有效的,只是以防萬一…因為,正如Joe所說,您不必在DOP中強制驗證數據,但是在需要時可以驗證。驗證還是不驗證,這是一個問題!
第8章,高級并發控制,在我們的朋友Joe分解原子機制的實現細節之后,我們將學習如何在不使用任何鎖的情況下以線程安全的方式管理整個系統狀態。你根本不知道從原子到原子的復雜性!
第9章,持久數據結構,轉移到一個更學術的環境,我們的朋友Joe揭示了一個更安全、更可伸縮的方式來保持數據不變性的內部細節,以及如何有效地實現它,無論數據大小。現在開始上課!
第10章,數據庫操作,教我們如何表示、訪問和操作數據庫中的數據,并提供額外的靈活性,你猜對了!表示“不”的復雜性。?第11章,Web服務,讓我們發現與Web服務通信的簡單性。我們會學到喬說的“我們應該像構建外部那樣構建系統的內部”是什么意思。
第3部分,可維護性,介紹高級數據驗證、多態、有效代碼和調試技術的DOP技術,這些技術在團隊中工作時非常重要。歡迎加入我們的團隊!
第12章,高級數據驗證,允許我們發現未來事物的形狀。在這里,您將學習如何在數據在系統內部流動時驗證數據,通過定義函數參數和返回值的預期形狀,從而簡化開發。
第13章,多態性,帶我們和Theo和Dave一起上了一節鄉下的課——一個適合與動物玩耍的地方,并通過多重方法學習沒有對象的多態性。
第十四章,高級數據操作,讓我們看到Dave和Theo如何應用Joe的明智建議,在他們創建自己的數據操作工具時,將乏味的代碼變成有說服力的代碼。本末倒置。“——又是喬送的寶石!”
第十五章,調試,把Dave和Theo帶到博物館最后一次“歡呼”,因為他們創造了一個創新的解決方案來重現和修復錯誤。
本文檔包含了物理模擬環境中與深度學習相關的所有內容的實用和全面的介紹。盡可能多地,所有主題都以Jupyter形式提供了實際操作的代碼示例,以便快速入門。除了標準的監督學習數據,我們將著眼于物理損失約束,更緊密耦合的學習算法與可微分模擬,以及強化學習和不確定性建模。我們生活在一個激動人心的時代: 這些方法有巨大的潛力從根本上改變計算機模擬所能達到的效果。
在本文中,我們將介紹將物理模型引入深度學習的不同方法,即基于物理的深度學習(PBDL)方法。為了增加集成的緊密性,將引入這些算法變體,并將討論不同方法的優缺點。重要的是要知道每種不同的技術在哪些場景中特別有用。
圖像分類、目標檢測與跟蹤、姿態估計、人臉識別和情感估計在解決計算機視覺問題中都起著重要的作用。
本書將重點介紹這些和其他深度學習架構和技術,以幫助您創建使用Keras和TensorFlow庫的解決方案。您還將回顧多種神經網絡架構,包括LeNet、AlexNet、VGG、Inception、R-CNN、Fast R-CNN、Faster R-CNN、Mask R-CNN、YOLO和SqueezeNet,并通過最佳實踐、技巧、捷徑和陷阱了解它們如何與Python代碼一起工作。所有代碼片段都將被分解并進行詳細討論,以便您可以在各自的環境中實現相同的原則。
使用深度學習的計算機視覺提供了一個全面而簡潔的指南,將DL和CV結合在一起,實現自動化操作,減少人工干預,提高能力,并降低成本。
你會:
不久前,計算機視覺還只是科幻小說的專屬內容,但現在,即使不是在整個社會,也正迅速成為各行各業的普遍現象。人類視覺是人類感官中最珍貴的一種,在模仿人類視覺這一領域取得的進展令人驚嘆。直到1957年,拉塞爾·基爾希才掃描出了世界上第一張照片——他兒子的黑白照片。到20世紀80年代末,西羅維奇和柯比的工作幫助人臉識別成為一種可行的生物識別技術。盡管存在隱私問題和法律挑戰,但Facebook在2010年將人臉識別技術納入其社交媒體平臺時,使這項技術無處不在。
這本書試圖解釋計算機視覺問題的深度學習和神經網絡的概念。我們正在詳細研究卷積神經網絡,以及它們的各個組成部分和屬性。我們正在探索各種神經網絡架構,如LeNet, AlexNet, VGG, R-CNN, Fast R-CNN, Faster R-CNN, SSD, YOLO, ResNet, Inception, DeepFace,和FaceNet的細節。我們還在開發實用的解決方案,以解決二值圖像分類、多類圖像分類、目標檢測、人臉識別和視頻分析的用例。我們將使用Python和Keras作為解決方案。所有的代碼和數據集被檢入GitHub repo快速訪問。在最后一章中,我們將學習深度學習項目中的所有步驟——從定義業務問題到部署。我們還在處理在制定解決方案時面臨的重大錯誤和問題。在這本書中,我們提供了訓練更好的算法的技巧和技巧,減少訓練時間,監測結果,并改進解決方案。我們也分享代表性的研究論文和數據集,你應該使用它們來獲得進一步的知識。
這本書把這個主題分成三部分。在第1章到第4章,本書描述了神經網絡的本質和揭秘他們如何學習。并指出了不同的架構及其歷史意義。實踐者在擁有所有所需資源的情況下,可以體驗到LeNet優雅的簡單性、AlexNet提高的效率以及流行的VGG Net。在第5至7章,從業人員運用簡單而強大的計算機視覺應用,如訓練算法來檢測物體和識別人臉。在進行視頻分析時,我們遇到了漸變消失和爆炸的困擾問題,以及如何在ResNet架構中使用跳過連接來克服它。最后,在第8章中,我們回顧了完整的模型開發過程,從正確定義的業務問題開始,系統地推進,直到模型在生產環境中部署和維護。
這本關于機器學習的研究生教科書講述了數據模式如何支持預測和結果行動的故事。從決策的基礎開始,我們將涵蓋作為有監督學習的組成部分的表示、優化和泛化。關于數據集作為基準檢查他們的歷史和科學基礎的一章。對因果關系的介紹,因果推理的實踐,序列決策,和強化學習使讀者了解概念和工具來。整本書討論了歷史背景和社會影響。讀者有概率論、微積分和線性代數方面的經驗就足夠了。
目錄內容:
導論 Introduction
決策 Decision making
監督學習 Supervised learning
表示學習 Representations and features
優化 Optimization
泛化 Generalization
深度學習 Deep learning
數據 Datasets
因果性 Causality
因果性實踐 Causal inference in practice
序列決策與動態優化,Sequential decision making and dynamic programming
強化學習,Reinforcement learning
Epilogue
Mathematical background
深度學習(Deep Learning)如今已成為非常活躍的研究領域,同時也為現代機器學習鋪展了一條康莊大道。本書提供許多范例與清楚的說明,引導讀者進一步了解這個復雜領域中的一些主要概念。
包括Google、微軟和Facebook這樣的業界龍頭,全都在其內部積極發展深度學習團隊。不過對于一般人來說,深度學習仍舊是個相當復雜而困難的主題。如果您熟悉Python,并具備微積分的背景知識,加上對于機器學習的基本理解,本書即可幫助您入門。
了解機器學習和神經網路的基礎知識 了解如何訓練正向饋送神經網路 用TensorFlow實現你的第一個神經網路 網路越來越深度時,相關問題的管理 建立能夠分析復雜圖片的神經網路 使用自動編碼器進行有效的降維操作 深入序列分析以處理自然語言 了解強化學習的基礎知識
目錄大綱
第1章神經網路 第2章訓練正向饋送神經網路 第3章運用TensorFlow 實現神經網路 第4章超越梯度遞減 第5章卷積神經網路 第6章嵌入和表達方式的學習 第7章序列分析模型 第8章記憶強化神經網路 第9章深度強化學習
//noracook.io/Books/MachineLearning/fundamentalsofdeeplearning_1ed.pdf
如果你想從程序員轉行做人工智能專家,這是一個理想的起點。基于Laurence Moroney非常成功的AI課程,這本介紹性的書提供了一個動手、代碼優先的方法來幫助你建立信心,同時你學習關鍵主題。
您將了解如何實現機器學習中最常見的場景,如計算機視覺、自然語言處理(NLP)和針對Web、移動、云和嵌入式運行時的序列建模。大多數關于機器學習的書都是從大量的高等數學開始的。本指南建立在讓您直接使用代碼的實際經驗基礎上。
你將學習:
使用高級架構開發和優化深度學習模型。這本書教你錯綜復雜的細節和微妙的算法,是卷積神經網絡的核心。在高級應用深度學習中,您將學習CNN的高級主題和使用Keras和TensorFlow的對象檢測。
在此過程中,您將了解CNN中的基本操作,如卷積和池化,然后了解更高級的架構,如inception networks、resnets等等。當這本書討論理論主題時,你會發現如何有效地與Keras工作,其中有許多技巧和提示,包括如何用自定義回調類自定義Keras登錄,什么是迫切執行,以及如何在你的模型中使用它。最后,您將學習對象檢測是如何工作的,并在Keras和TensorFlow中構建YOLO(只查看一次)算法的完整實現。在書的最后,你將實現各種各樣的模型在Keras和學習許多高級技巧,將把你的技能到下一個水平。
你將學到什么
這本書是給誰的