機器學習理論
·
盡管有很多嘗試[1-6]，深度學習的有效性到目前為止還沒有明確的解釋。考慮到神經網絡是一個非常簡單且定義良好的數學對象，這相當令人驚訝[7-9]。使分析變得困難的是深度神經網絡通常是用大量的參數來描述的，例如權重矩陣、偏差向量、訓練數據等。對于這樣的系統，大多數分析技術不是很有用，必須依賴于數字。這種情況與物理中發生的情況非常相似。物理系統(包括經典系統和量子系統)通常可以在自由度很小的時候被精確地解決，但是當自由度很大的時候，這個問題就變得棘手了。幸運的是，有一組思想被證明對于分析具有多個自由度的物理系統非常有用。它是統計力學。本文的重點是將統計力學的方法應用于機器學習。在本節的其余部分，我們將總結主要結果，因為它可能有助于讀者瀏覽本文。
付費5元查看完整內容
相關內容
本文是由Terence Parr 和Jeremy Howard撰寫的《深度學習的矩陣運算》論文。我們知道，深度學習是基于線性代數和微積分的，反向傳播也離不開求導和矩陣運算，因此了解深度學習內部的數學原理也至關重要。
1.介紹
2.向量演算和偏導簡介
3.矩陣演算
-
雅可比定律
-
多元微分
-
向量
-
鏈式法則
4.損失函數求導
5.矩陣演算參考
6.符號
7.資源鏈接
本文從簡單函數求導到多元函數求偏導，再到矩陣的微積分運算，逐層深入，引導我們探索深度學習背后的學習規則與數學基礎。本文試圖解釋理解深度神經網絡的訓練所需要的所有矩陣演算，本文適用于對神經網絡基礎有所了解的人，不過即使沒有數學基礎的同學也不要緊，作者提供了相關數學知識鏈接。在文末作者提供的參考部分，總結了這里討論的所有關鍵矩陣演算規則和術語。
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191