【導讀】本文為大家帶來了一份斯坦福大學的最新課程CS224W——圖機器學習,主講人是斯坦福大牛Jure Leskovec,他是斯坦福大學計算機學院的副教授,也是圖表示學習方法 node2vec 和 GraphSAGE 作者之一。
近年來,圖神經網絡(GNN)成為網絡表示學習和分析的熱點研究問題,其特點是將以神經網絡為代表深度學習技術用于網絡結構的建模與計算。圖神經網絡能夠考慮網絡中的節點、邊及其附帶的標簽、屬性和文本等信息,能夠更好地利用網絡結構進行精細建模和深度推理,已經被廣泛用于自然語言處理、社會網絡分析、推薦系統等領域。這個課程應該是近年來第一次全面總結圖機器學習相關的課程,課程設置非常新穎也非常全面,包括近年來火熱的圖神經網絡的局限和應用等等,課程全部的PPT 也已經放到網頁上,希望做這方面研究的童鞋多多學習!
原始鏈接: //web.stanford.edu/class/cs224w/
1 課程介紹
網絡是建模復雜的社會、技術和生物系統的基本工具。結合在線社交網絡的出現和生物科學中大規模數據的可用性,本課程著重分析大規模網絡,這些大型網絡提供了一些計算、算法和建模方面的挑戰。通過研究學生潛在的網絡結構和相互聯系,向他們介紹機器學習技術和數據挖掘工具,這些工具有助于揭示社會、技術和自然世界的真知灼見。
復雜數據可以表示為對象之間的關系圖。這種網絡是模擬社會、技術和生物系統的基本工具。本課程著重于大量圖的分析所特有的計算、算法和建模挑戰。通過研究基礎圖結構及其特征,向學生介紹機器學習技術和數據挖掘工具,有助于揭示對各種網絡的見解。
主題包括: 表示學習和圖神經網絡;萬維網的算法;知識圖推理;影響力最大化;疾病爆發檢測,社會網絡分析。
2 講師介紹
Jurij Leskovec
主講人是圖網絡領域的大牛Jure Leskovec,是斯坦福大學計算機學院的副教授,也是圖表示學習方法 node2vec 和 GraphSAGE 作者之一。在谷歌學術搜索(Google Scholar)上,Jure擁有接近4.5萬的論文引用數量,H指數為84。
Leskovec的研究重點是對大型社會和信息網絡進行分析和建模,以研究跨社會,技術和自然世界的現象。他專注于網絡結構、網絡演化、信息傳播、影響和病毒在網絡上的傳播的統計建模。他所研究的問題是由大規模數據、網絡和其他在線媒體引起的。他也致力于文本挖掘和機器學習的應用。
個人主頁:
3 課程目錄
4 課程材料預覽
Graph Representation Learning by William L. Hamilton Networks, Crowds, and Markets: Reasoning About a Highly Connected World by David Easley and Jon Kleinberg Network Science by Albert-László Barabási
圖機器學習講述關于《圖神經網絡GNN高級主題》最新課程。
近年來,一些研究人員致力于把神經網絡模型遷移到圖數據這類非歐空間數據上,提出了圖神經網絡(GNN)模型,成功應用在半監督節點分類、圖分類、推薦系統、交通預測、知識推理等任務中。本課程講述了圖神經網絡的高級主題:
圖神經網絡局限性
位置感知圖神經網絡
身份感知圖神經網絡
圖神經網絡魯棒性
斯坦福大學的最新課程CS224W——圖機器學習,主講人是斯坦福大牛Jure Leskovec,他是斯坦福大學計算機學院的副教授,也是圖表示學習方法 node2vec 和 GraphSAGE 作者之一。最新講述了關于圖神經網絡模型總結,內容包括:
//www.math.arizona.edu/~hzhang/math574.html
隨著信息技術的飛速發展,在各個領域產生了大量的科學和商業數據。例如,人類基因組數據庫項目已經收集了千兆字節的人類遺傳密碼數據。萬維網提供了另一個例子,它擁有由數百萬人使用的文本和多媒體信息組成的數十億Web頁面。
本課程涵蓋了現代數據科學技術,包括基本的統計學習理論及其應用。將介紹各種數據挖掘方法、算法和軟件工具,重點在概念和計算方面。將涵蓋生物信息學、基因組學、文本挖掘、社交網絡等方面的應用。
本課程著重于現代機器學習的統計分析、方法論和理論。它是為學生誰想要實踐先進的機器學習工具和算法,也了解理論原理和統計性質的算法。主題包括回歸、分類、聚類、降維和高維分析。
【導讀】圖神經網絡依然是研究焦點之一。最近在WWW2020的DL4G@WWW2020論壇,斯坦福大學Jure Leskovec副教授介紹了圖神經網絡研究最新進展,包括GNN表現力、預訓練和公開圖神經網絡基準等。值得關注。
近年來,深度學習領域關于圖神經網絡(Graph Neural Networks,GNN)的研究熱情日益高漲,圖網絡已經成為各大深度學習頂會的研究熱點。GNN 處理非結構化數據時的出色能力使其在網絡數據分析、推薦系統、物理建模、自然語言處理和圖上的組合優化問題方面都取得了新的突破。但是,大部分的圖網絡框架的建立都是基于研究者的先驗或啟發性知識,缺少清晰的理論支撐。
Jure Leskovec
圖網絡領域的大牛Jure Leskovec,是斯坦福大學計算機學院的副教授,也是圖表示學習方法 node2vec 和 GraphSAGE 作者之一。在谷歌學術搜索(Google Scholar)上,Jure擁有接近4.5萬的論文引用數量,H指數為84。
下載鏈接: 鏈接: 提取碼: mtth
課程名稱: CS224W: Machine Learning with Graphs
課程簡介:
網絡是對復雜的社會、技術和生物系統建模的基本工具。結合在線社交網絡的出現和生物科學中大規模數據的可用性,本課程重點分析提供了幾個計算、算法和建模挑戰的大規模網絡。學生將學習機器學習技術和數據挖掘工具,通過研究其潛在的網絡結構和相互聯系,揭示對社會、技術和自然世界的洞察。
在本課程中,我們將介紹圖機器學習技術,包括以下主題:
課程部分大綱:
講師介紹:
Jurij Leskovec是斯坦福大學計算機科學副教授,研究側重于分析和建模大型社區和信息網絡,作為跨社區、技術和自然世界現象的研究。他側重于網絡結構的統計建模、網絡演化、信息傳播、網絡影響和病毒。他所研究的問題是由大規模數據、網絡和其他在線媒體引發的,同樣從事文本挖掘和機器學習的應用。個人官網:
下載索引:鏈接:
報告簡介: 圖形領域的機器學習是一項重要而普遍的任務,其應用范圍從藥物設計到社交網絡中的友情推薦。該領域的主要挑戰是找到一種表示或編碼圖形結構的方法,以便機器學習模型可以很方便地利用它。 報告中介紹了深度學習的技術,自動學習將圖形結構編碼為低維嵌入。以及表示學習的關鍵進展,包括圖形卷積網絡及其表示能力,探討了它在Web級推薦系統、醫療保健、知識表示和推理方面的應用。
嘉賓介紹: 領域的大牛Jure Leskovec,是斯坦福大學計算機學院的副教授,也是圖表示學習方法 node2vec 和 GraphSAGE 作者之一。研究重點是對大型社會和信息網絡進行挖掘和建模,它們的演化,信息的傳播以及對它們的影響。 Jure Leskovec主頁
題目: GNNExplainer: Generating Explanations for Graph Neural Networks
簡介: 圖神經網絡(GNN)通過沿輸入圖的邊緣遞歸傳遞神經消息,將節點特征信息與圖結構結合在一起。但是同時包含圖結構和特征信息會導致模型復雜,并且解釋GNN所做的預測仍未解決。在這里,我們提出GNNExplainer,這是第一種通用的,與模型無關的方法,可為任何基于GNN的模型的預測提供可解釋性。給定一個實例,GNNExplainer會確定緊湊的子圖結構和節點特征的一小部分,這些特征對GNN的預測至關重要。此外,GNNExplainer可以為整個實例類生成一致而簡潔的解釋。我們將GNNExplainer公式化為優化任務,該優化任務可最大化GNN的預測與可能的子圖結構的分布之間的相互信息。在合成圖和真實世界圖上進行的實驗表明,我們的方法可以識別重要的圖結構以及節點特征,并且比基準性能高出17.1%。 GNNExplainer提供了各種好處,從可視化語義相關結構的能力到可解釋性,再到洞悉有缺陷的GNN的錯誤。
作者簡介: 領域的大牛Jure Leskovec,是斯坦福大學計算機學院的副教授,也是圖表示學習方法 node2vec 和 GraphSAGE 作者之一。研究重點是對大型社會和信息網絡進行挖掘和建模,它們的演化,信息的傳播以及對它們的影響。 調查的問題是由大規模數據,網絡和在線媒體引起的。 Jure Leskovec主頁
代碼鏈接: