亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

【導讀】國際人工智能會議AAAI 2022論文將在全程線上舉辦，時間在 2 月 22 日-3 月 1 日，本屆大會也將是第 36 屆 AAAI 大會。大會涵蓋了眾多最近研究Tutorial報告，來自Huan Zhang等學者共同做了關于神經網絡驗證研究進展報告，非常值得關注!

神經網絡已經成為現代人工智能的重要組成部分。然而，它們通常是黑盒，可能會出乎意料地行為，并產生令人驚訝的錯誤結果，例如對抗的例子。在本教程中，我們將介紹神經網絡驗證問題，其目的是保證神經網絡的特性，如魯棒性、安全性和正確性。我們的教程涵蓋了驗證問題的理論基礎和最先進算法的介紹。此外，我們還將為用戶友好的神經網絡驗證工具箱提供實踐編碼教程，允許從業者輕松地將正式的驗證技術應用到他們的定制應用中。我們的教程包括在谷歌Colab中編碼演示。我們將演示通用的auto_LiRPA庫和獲獎的α，β-CROWN驗證器的使用。

目錄內容： Part I: Introduction to Neural Network Verifier Part II: Neural Network Verification Algorithms Part III: Hands-on Tutorial on Using State-of-the-art Verification Tools

地址：

//neural-network-verification.com/

【導讀】國際人工智能會議AAAI 2022論文將在全程線上舉辦，時間在 2 月 22 日-3 月 1 日，本屆大會也將是第 36 屆 AAAI 大會。大會涵蓋了眾多最近研究Tutorial報告，來自UIC, Adobe等學者共同做了關于關系數據因果推理的進展報告，非常值得關注!

因果推理的任務——從數據中推斷干預措施和反事實的效果——是大量科學和工業應用的核心。為了捕獲真實世界數據中的噪聲、異構性和復雜關系，習慣上將數據源建模為關系系統，并對它們進行概率推理。數據關系可以通過異構網絡表示，其中節點表示相互依賴的實體，如人、公司、網站和疾病，而邊緣表示這些實體之間的不同關系，如友誼、超鏈接、貢獻和疾病傳播。本教程將介紹網絡數據因果推理的最新研究成果，也稱為干擾因果推理。我們將以現實世界的應用來激發這一領域的研究，例如測量社交網絡和市場實驗的影響力。我們將討論將為獨立和同分布(IID)數據設計的現有因果推理技術應用到關系數據的挑戰、當前存在的一些解決方案以及未來研究的差距和機遇。我們將介紹現有的網絡實驗設計，以測量興趣的不同可能影響。然后，我們將集中于因果推斷從觀察數據，其表示，識別，和估計。我們將以網絡中因果發現的研究作為總結。

地址： //netcause.github.io/

【導讀】國際人工智能會議AAAI 2022論文將在全程線上舉辦，時間在 2 月 22 日-3 月 1 日，本屆大會也將是第 36 屆 AAAI 大會。大會涵蓋了眾多最近研究Tutorial報告，來自Yu Meng，韓家煒等等學者共同做了關于預訓練語言表示的進展報告，非常值得關注!

本教程旨在介紹預訓練文本嵌入和語言模型(例如BERT和GPT)的最新進展，以及它們在廣泛的文本挖掘任務中的應用。本教程將系統地介紹(1) 預訓練的文本表示學習的發展，(2) 預訓練的模型如何有效地增強基本文本挖掘應用，以及(3)新的技術和方法來用于預訓練的文本表示，用于文本挖掘任務，而無需人工注釋。目標受眾包括任何對人工智能(AI)和機器學習(ML)技術感興趣的研究人員和從業人員，這些技術用于使用最先進的預訓練語言模型的自然語言和數據挖掘應用程序。觀眾將不僅了解文本表示學習和文本挖掘的背景和歷史，還將了解最新的模型和方法及其應用。我們的教程特別關注文本挖掘中的弱監督方法，這種方法需要最少的人力來學習模型。我們還將用真實的數據集演示預訓練的文本表示如何幫助減輕人類注釋的負擔，并促進自動、準確和高效的文本分析。 目標受眾包括典型的人工智能實踐者，他們可能對偏好學習有一個高層次的概念，但通常沒有意識到問題的各種挑戰性方面。該教程的新穎之處在于將不同社區的不同范式翻譯成AI語言，從而使ML/AI社區受益。本教程將是自包含的，不需要任何先決條件。具有基本AI/ML知識的觀眾將能夠理解大部分材料。

目錄內容： 引言 Introduction 第一部分：預訓練語言模型 Part I: Pre-Trained Language Models [Slides] 第二部分 重溫文本挖掘基礎 Part II: Revisiting Text Mining Fundamentals with Pre-Trained Language Models 第三部分 嵌入驅動主題挖掘 Part III: Embedding-Driven Topic Discovery 第三部分 弱監督文本挖掘 Part IV: Weakly-Supervised Text Classification: Embeddings with Less Human Effort 第四部分 高級文本挖掘應用 Part V: Advanced Text Mining Applications Empowered by Pre-Trained Language Models [Slides]

地址： //yumeng5.github.io/aaai22-tutorial/

【導讀】NeurIPS，全稱神經信息處理系統大會（Conference and Workshop on Neural Information Processing Systems），作為關于機器學習和計算神經科學的國際會議，每年固定在12月舉行，由NIPS基金會主辦。NeurIPS是機器學習領域的頂級會議 ，是神經計算方面最好的會議之一 。在中國計算機學會的國際學術會議排名中，NeurIPS為人工智能領域的A類會議。NeurIPS 2021于12月6日-12月14日在加拿大蒙特利爾采用線上線下結合的方式舉辦。

來自普林斯頓大學的研究人員Miles Cranmer和Shirley Ho對物理學知識嵌入的深度學習的報告，非常值得關注。

機器學習與物理學

物理研究和深度學習有著一種共生關系，而且這種關系在過去幾年變得越來越強。在本教程中，我們將展示這個故事的兩個方面。深度學習如何從物理和其他科學的概念中受益?物理研究的不同分支領域如何利用深度學習?深度學習在物理學中還有哪些尚未探索的應用可以從機器學習中獲益?我們將討論這個交集的過去和現在，然后為這一聯系的未來可能的方向理論化。在本次演講的第二部分，我們將概述一些利用物理學思想的現有深度學習技術，并指出該領域一些有趣的新方向。

//nips.cc/Conferences/2021/Schedule?type=Tutorial

Twitter和Facebook等社交媒體網站連接了數十億人，并為用戶提供了即時分享他們的想法和意見的機會。話雖如此，也有一些不良后果，如網絡騷擾，噴子，網絡欺凌，假新聞和仇恨言論。除此之外，仇恨言論是一個獨特的挑戰，因為它深深扎根于我們的社會，通常與線下暴力聯系在一起。社交媒體平臺依靠當地的主持人來識別仇恨言論并采取必要的行動，但隨著社交媒體上此類內容的大量增加，許多人開始轉向自動的仇恨言論檢測和緩解系統。這種轉變給板塊帶來了一些挑戰，因此，是計算社會科學界探索的重要途徑。

//hate-alert.github.io/talk/icwsm_tutorial/

AAAI 的英文全稱是 Association for the Advance of Artificial Intelligence——美國人工智能協會。該協會是人工智能領域的主要學術組織之一，其主辦的年會也是人工智能領域的國際頂級會議。在中國計算機學會的國際學術會議排名以及清華大學新發布的計算機科學推薦學術會議和期刊列表中，AAAI 均被列為人工智能領域的 A 類頂級會議。

AAAI 2021論文接收列表如下：

//aaai.org/Conferences/AAAI-21/wp-content/uploads/2020/12/AAAI-21_Accepted-Paper-List.Main_.Technical.Track_.pdf

本文主要梳理了AAAI 2021上圖神經網絡方面的最新進展，主要涵蓋：

• 更加基礎的研究：表示能力/過平滑/傳播機制/災難性遺忘

• 更加復雜的圖數據：異質圖/有向圖/動態圖

• 更加豐富的訓練策略：混合訓練/數據擴增/對比訓練

• 更加多樣化的應用：推薦/藥物化學/物理系統/NLP/CV

更加基礎的研究：表示能力/過平滑/傳播機制/災難性遺忘 隨著GNN研究的深入，一些研究者不在僅僅關注于設計模型架構，而是試圖挖掘和解決GNN更加fundamental的問題，如GNN的表示能力。

大部分GNN的表示能力的上界就是WL-Test，對于同構的圖結構無法區分，進而無法學習到有區分度的節點表示。ID-GNN[1]通過一個簡單的ID增強策略就可以極大提升GNN的表示能力，讓原本無法區分的圖結構(或者GNN的聚合圖)區分開來。

“傳播是GNN的本質”。但是深層GNN傳播遠距離的信息會帶來過平滑現象導致模型效果下降。GCC[2]研究了GNN的傳播機制，其不僅解釋了過平滑的本質，還解決了為什么GNN的各種變種可以一定程度上緩解過平滑現象。

災難性遺忘指模型會忘記先前學習到的知識，在NN中已經有了一些研究。TWP[3]研究了GNN上的遺忘問題并提出了一種拓撲感知的權重保留技術來克服上述問題。類似的ER-GCN[4]利用經驗回放機制來實現GNN在連續任務上的持續學習，也可以一定程度的可以遺忘問題。

更加復雜的圖數據：異質圖/有向圖/動態圖 在GNN的研究初期，大家的目光主要集中在簡單同質圖(只有一種節點和邊)上，這大幅度降低了代碼實現的難度。例如，經典的GCN只需要AXW即可實現。但是，實際情況往往更加復雜，隨著GNN研究的深入，大家開始關注一些更為復雜也更有實際價值的圖數據，如異質圖、動態圖、有向圖和超圖等。

考慮到多種類型節點之間的豐富交互，為了避免信息損失，我們需要將其建模為異質圖。GraphMSE[5]就是一種針對異質圖數據設計的GNN，其充分挖掘了多種交互下鄰居(結構)信息來提升節點表示。HGSL[6]則探索了異質圖結構對于節點表示的影響，通過學習更加的準確的圖結構來提升GNN的表現。

在微博圖上，用戶之間有關注或者拉黑等關系，這實際是一種有向符號網絡。SDGNN[7]是一種針對有向符號圖設計的圖神經網絡，同時考慮了邊的方向/符號(喜歡為正，討厭為負)和動態圖演化的相關理論(status theory 和 balance theory)來更好的建模動態性并實現圖的表示學習。

圖數據往往是動態變化的。HVGNN[8]在雙曲空間里建模了動態圖隨時間演化的特性，其引入了一種時間感知的注意力機制(Tem- poral GNN)來區分不同時間段內節點的差異。RNN-GCN[9]則是將經典的時序模型RNN引入到GNN中，利用dynamic stochastic block來捕獲節點和社區的演化過程，進而實現動態圖上的節點聚類。

更加豐富的訓練策略：混合訓練/數據擴增/對比訓練 經典的GNN(包括GCN和GAT)都是以半監督節點分類Loss進行訓練的。隨后的研究也沿著這個路線，將目光集中在如何設計更加精巧的模型架構來提升模型效果。的確，復雜的模型可以提升效果，但是其往往超參數較多且難以訓練。相較于設計新的模型架構，一些研究者開始探索如何利用訓練策略(如數據擴增)來提升現有GNN模型的效果。

GraphMix[10]整合了interpolation數據擴增和self-training數據擴增技術，將簡單的GCN架構提升到接近SOTA的效果。例如，原始的GCN在Cora的效果只有81.3，而GraphMix訓練策略可以將GCN的效果提升至83.94。同時，GraphMix無需額外的內存消耗，計算消耗也幾乎不變。

類似的，GAUG[11]也嘗試從數據擴增的角度來提升現有半監督GNN的效果。具體來說，GAUG設計了一個edge prediction來編碼圖上節點的類內同質結構，然后提升類內邊的數量(移除類間邊)。然后，基于修改后的更加精準的圖結構，在Cora數據集上，GAUG將GCN的效果提升至83.6，將GraphSAGE的效果提升至83.2。

與上述兩個工作不同，Contrastive GCNs with Graph Generation (CG3)[12] 嘗試對標簽進行增強。實際上，如果沒有足夠的監督信號，半監督學習Semi-Supervised Learning (SSL)的效果都是有限的。考慮到圖上半監督學習的特點，本文不僅僅考慮了同類數據不同view之間的相關性，還建模了節點屬性和圖拓撲結構之間的潛在聯系來作為額外的監督信號。基于增強后的圖監督信號，CG3在標簽率只有0.5%的情況下，可以取得8%左右的絕對準確率提升！

更加多樣化的應用：推薦/藥物化學/物理系統/NLP/CV 圖上的鏈路預測實際就是推薦。將GNN用到推薦中是非常自然的一件事。HGSRec[13]將異質圖神經網絡用于建模淘寶用戶之間的分享行為，預測了用戶之間的三元分享行為。GHCF[14]將推薦系統中多樣的用戶-商品交互建模為多關系異質圖并設計了相應的圖神經網絡架構來實現推薦。DHCN[15]建模了Session-based Recommendation中的超圖交互，利用雙通道的超圖卷積網絡來實現商品推薦。

圖結構數據可以很好地建模分子及其之間的化學鍵。因此，AI制藥開始嘗試利用GNN來實現藥物分子的研發(如性質預測，逆合成)。GTA[16]將GNN用于藥物分子領域的逆合成預測問題，CAGG[17]則是從圖生成的角度來實現藥物分子的合成。

MGTN[18]將圖像數據轉為圖結構數據，利用圖像中不同目標(建模為子圖)之間的關系建模來實現更好的多類圖像分類，而PC-RGNN[19]將點云數據建模為圖，利用圖上不同尺度的關系聚合來強化其點云的表示。

參考文獻

Identity-aware Graph Neural Networks

Why Do Attributes Propagate in Graph Convolutional Neural Networks

Overcoming Catastrophic Forgetting in Graph Neural Networks

Overcoming Catastrophic Forgetting in Graph Neural Networks with Experience Replay

GraphMSE: Efficient Meta-path Selection in Semantically Aligned Feature Space for Graph Neural Networks

Heterogeneous Graph Structure Learning for Graph Neural Networks

SDGNN: Learning Node Representation for Signed Directed Networks

Hyperbolic Variational Graph Neural Network for Modeling Dynamic Graphs

Interpretable Clustering on Dynamic Graphs with Recurrent Graph Neural Networks

GraphMix: Improved Training of GNNs for Semi-Supervised Learning

Data Augmentation for Graph Neural Networks

Contrastive and Generative Graph Convolutional Networks for Graph-based Semi-Supervised Learning

Who You Would Like to Share With? A Study of Share Recommendation in Social E-commerce

Graph Heterogeneous Multi-Relational Recommendation

Self-Supervised Hypergraph Convolutional Networks for Session-based Recommendation

GTA: Graph Truncated Attention for Retrosynthesis

Cost-Aware Graph Generation: A Deep Bayesian Optimization Approach

Modular Graph Transformer Networks for Multi-Label Image Classification

PC-RGNN: Point Cloud Completion and Graph Neural Network for 3D Object Detection

The Battle Against Online Harmful Information: The Cases of Fake News and Hate Speech 社交媒體平臺給了用戶在網上發布內容和表達意見的機會，而且非常快速和簡單。網上發布內容的便利性和社交媒體的匿名性增加了發布有害內容的數量。本教程將重點介紹如何檢測在線發布的有害信息。該指南將特別關注兩類有害信息，虛假新聞和仇恨言論。本教程將從介紹在線有害信息開始，包括不同類型有害信息的定義和特征。然后，我們將介紹和討論不同的方法，已提出的假新聞和仇恨言論檢測。我們還將提供有關評估過程、可用數據集和共享評估任務的細節。本教程最后將討論在線有害信息檢測領域的開放問題和未來方向。

//sites.google.com/view/harmful-inf-detect-cikm20tuto/schedule