NeurIPS2022馬上截稿了! 如何提高論文命中率，牛津大學副教授Jakob傾心講解《寫好機器學習頂會論文》關鍵要點，必看！
規范ML論文結構
1. 摘要 (TL; 論文DR):
X: 我們想要做什么?為什么它是相關的? Y: 為什么這么難? Z: 我們怎么解決(也就是我們的貢獻!) 1: 我們如何驗證我們解決了它: 1a)實驗 1 b)理論
2. 引言 (摘要的長版本，即全文):
X:我們想要做什么?為什么它是相關的? Y:為什么這么難? Z:我們怎么解決(也就是我們的貢獻!) 1:我們如何驗證我們解決了它: 1)實驗結果 1 b)理論 額外的空間嗎?未來的工作! 在第一頁上有圖1是額外的要點
3. 相關工作
我們的學術相關工作，也就是在文獻中嘗試解決相同的問題。
目標是“比較和對比”——他們的方法在假設或方法上有何不同?如果他們的方法適用于我們的問題設置，我希望在實驗部分進行比較。如果不是，就需要明確說明為什么給定的方法不適用。 注意:僅僅描述另一篇論文正在做什么是不夠的。我們需要比較和對比。
4. 背景介紹
我們工作的學術起源，即理解我們的方法所需的所有概念和之前的工作。包括一小節的問題設置，正式介紹問題設置和符號(形式主義)為我們的方法。強調任何不尋常的特定假設。
5. 方法:
我們怎么做的。我們為什么這么做。所有的描述都使用了問題設置中介紹的一般形式化，并建立在背景介紹的概念/基礎上。
6.實驗設置
我們如何驗證我們的東西是否有效? 要給出了這個問題設置的具體實例和我們的方法的具體實現細節。
7. 結果和討論:
展示在實驗設置中我們所描述的問題上運行方法的結果。與相關工作中提到的Baseline進行比較。包括統計數據和置信區間。包括關于超參數和其他潛在的公平問題的聲明。包括消融研究，以表明具體部分的方法是相關的。討論該方法的局限性。
8 結論
我們做到了。這篇文章非常棒，你很幸運讀過它(也就是整篇文章的簡要回顧)。此外，我們還會在未來做所有這些神奇的事情。
其他建議
從提綱開始，而不是全文。每一行將對應于最終版本中的一個段落。在建造一座建筑之前改變它的輪廓要容易得多。如果你不確定的話，這是和別人交談的好時機。接下來，展開大綱，但將摘要文本作為Latex注釋放在每個段落之前。這將使你保持在正確的方向上，并使任何提供反饋的人能夠更容易地快速了解整個流程。
最常見的寫作“坑”和其他建議
- 被動語態——不清楚為什么，但這是一個很常見的錯誤。被動被過度使用了(比如這里?)它既笨拙又模糊了誰做了什么。如果可以避免，就盡量避免。
- 要非常清楚自己的貢獻。永遠不要混淆以前做過的事和你做過的事之間的界限。
- 時態要一致。無論如何都要避免轉換，如果可以避免的話，也要避免使用將來時。"In Section 3 we will show"
- 盡量避免使用填充詞。想想你想說什么，然后說出來，別想別的。常見的填充詞有“can”、“In order to”等。示例:“The Bank Loan problem can be reformulated as a special subset of the contextual bandit problem”=>“The Bank Loan problem is a special instance of a contextual bandit problem”
- 寫完開頭的文字后，試著刪除三分之一的單詞。這是典型的“絨毛”數量。
- 請在Latex中使用正確的引號“正確的引號”(如果不清楚，可以復制粘貼)。
- 當作者是句子的一部分時，使用“\citet”，例如“\citet{foerster2016learnig} show ..”，以及“~\citep”，否則，例如“..”最近的工作~ \ citep {foerster2016learnig}”。
- 引用任何不被你的實驗支持的觀點，避免浮夸的語言或過于寬泛的觀點——這通常會讓你很容易毫無理由地攻擊這篇論文
- 不要把寫論文留到最后一分鐘。目標是在截止日期前一周完成一份完整的草稿。
- 在Overleaf中啟用更改跟蹤，并直接與您的協作者的電子郵件地址共享。這樣它就在UI中了
- 在使用首字母縮略詞之前介紹它。
- 盡量避免同義詞。
- 只介紹你在論文中使用的符號和首字母縮寫。
- 什么是粗體，什么是斜體?這取決于你，但是要始終如一。
- 避免使用隨機大寫(RC)，即使是方法名和引入首字母縮寫時也是如此。
- 避免人工智能算法的擬人化(“知識”等)。
- 避免主觀主張——通常形容詞是危險信號。
- “On the other hand”不能沒有“On the one hand”。
- 注意在一段話中單詞的重復。
-
- 盡可能使用簡單的語言。避免使用罕見的詞或聽起來“花哨”。對于很多科學家(比如我自己)來說，英語不是他們的第一語言。
- 永遠不要復制粘貼其他論文，除非你是逐字引用。
- 從頭開始編寫代碼要比修改代碼更容易(也更合乎道德!)。
最后，與所有的作者進行大量的溝通(即，至少在最后一周每天)，以保持正確的方向并享受樂趣!!
付費5元查看完整內容
相關內容
現代應用中生成的數據量可能非常大，超出了我們方便地傳輸、存儲和索引的能力。對于許多場景，我們更希望構建一個小得多的數據集的緊湊摘要。作為某種近似的交換，我們獲得了可以回答一系列不同類型的數據查詢的靈活而有效的工具。這本書提供了對主題數據總結的全面介紹，展示了算法、它們的行為和它們操作的數學基礎。該覆蓋從簡單的和和近似的計數開始，構建更高級的概率結構，如Bloom Filter，獨特的價值摘要，草圖和分位數摘要。摘要用于描述特定類型的數據，如幾何數據、圖形、向量和矩陣。在整個過程中，給出了示例、偽代碼和應用程序，以增強理解。
//dimacs.rutgers.edu/~graham/ssbd.html
這項工作的目的是描述和解釋用于處理大數據的摘要，并比較數據摘要所接受的數據形式及其使用的靈活性。它遵循一種相當技術性的方法，依次描述每個摘要。它列出了可以匯總的數據類型，以及可以對匯總執行哪些操作以在其中包含更多數據，并提取關于匯總數據的信息。
付費5元查看完整內容
最近ICLR 2021初審結果在官網公布，本次ICLR 2021一共有3013篇論文提交，其中有856篇論文是來自NeurIPS 2020 Rejection 之后重新提交的。
ICLR，全稱為International Conference on Learning Representations（國際學習表征會議），2013年由兩位深度學習大牛、圖靈獎得主 Yoshua Bengio 和 Yann LeCun牽頭創辦。
ICLR成立至今僅七年，但它已被學術研究者們廣泛認可，被認為是“深度學習領域的頂級會議”。 ICLR 采用公開評審（Open Review ）機制。所有提交的論文都會公開，并且接受所有同行的評審及提問，任何學者都可或匿名或實名地評價論文。而在初審公開之后，論文作者也能夠對論文進行調整和修改以及進行Rebuttal。
付費5元查看完整內容
摘要
學者們需花費大量時間閱讀論文。然而，很少有人傳授這項技能，導致初 學者浪費了大量時間精力。本文提出了一種高效實用的論文閱讀方法——“三 輪閱讀法”。同時，本文也描述了如何采用該方法進行文獻綜述。
1 概述
學者們出于各種原因閱讀論文，比如為了準備一場學術會議或者一堂課，為了緊跟自己所在領域的研究進展，或者為了了解新領域而進行的文獻綜述。一般而言，一名學者每年會花數百小時來閱讀論文。
高效閱讀論文是一項極其重要但卻很少被人傳授的技能。因此，初學者不得不在自己的摸索中學習這項技能。結果是他們在此過程中浪費了很多精力，并且常常陷入深深的挫敗感之中。
多年以來，我一直用一種簡單的“三輪”方法來防止自己沉浸在一篇論文的細節中，然后才能掌控全局。本文對這種“三輪閱讀法”進行了說明，并介紹了該方法在文獻綜述中的應用。此外，我可以根據我的需要和我有多少時間來調整論文評估的深度。
2 三輪閱讀法
該方法的關鍵點在于分三輪閱讀一篇論文，而非仔細地從頭看到尾。每一輪閱讀都在上一輪的基礎上達成特定的目的：第一輪了解論文的大意，第二輪了解論文的主要內容（而非細節），第三輪深入理解論文。
2.1 第一輪閱讀
第一輪屬于鳥瞰式閱讀，快速瀏覽論文。由此決定是否需要進入后兩輪閱讀。這一輪使用 5 至 10 分鐘，包括以下五個步驟：
仔細閱讀題目、摘要及導言；
閱讀章節標題，略過其他內容；
瀏覽數學內容(如果有的話)來確定基本的理論基礎
閱讀結論；
粗略地看一下參考文獻，識別出你已經讀過的文獻。
在第一輪的最后，你應該能回答以下五個問題：
類別：這篇論文屬于什么類別？是實證量化分析？還是對現有方法進行改進？亦或是提出了一個新的理論？
背景：這篇論文與哪些論文有關聯？分析的理論基礎有哪些？
正確性：憑經驗判斷，這篇論文的前提假設是否成立？
貢獻：這篇論文的主要貢獻是什么？
清晰度：這篇論文的文字表述是否清晰？
基于上述信息，你可能決定不再閱讀這篇文章。原因可能是你對論文的研究內容不感興趣，或者是由于你對該領域不甚了解以致難以讀懂論文。或者作者做出了無效的假設。第一關對于那些不在你研究領域的論文來說已經足夠了，但是有一天可能會被證明是相關的。
順便說一句，當你寫一篇論文時，你可以預期大多數評論者(和讀者)只會有一人關注到。注意選擇連貫的章節和小節標題，并寫出簡明全面的摘要。如果一個審稿人看了一遍后還是不能理解文章的主旨，那么他很可能會被退稿;如果一個讀者在五分鐘后不能理解文章的要點，那么他很可能永遠都不會讀到這篇文章。由于這些原因，用一個精心挑選的圖形來概括一篇論文的“圖形摘要”是一個很好的主意，并且在科學期刊上越來越多地出現。
2.2 第二輪閱讀
在第二輪中，更加仔細地閱讀論文，但是略過細節（如證明過程）。這有助于 你邊看邊在空白處記下要點或者進行評論。
仔細閱讀論文中的各類圖片。坐標軸的標注是否準確？統計結果是否帶有誤 差棒，以表明結論在統計上是顯著的？諸如此類的常見錯誤有助于你判斷一 篇論文優秀與否。
標注出與你研究相關但是你尚未閱讀過的參考文獻（這有助于深入了解該論文的研究背景）。
第二輪閱讀可能要花上一個小時。經過此輪閱讀，你應該能掌握這篇論文的內容 了——可以用簡潔的語言向其他人介紹論文的主要結論及相應的依據。對于你感 興趣的、但不是你研究專長的論文而言，這種程度的理解已經足夠了。
不過，有時即使完成了第二輪閱讀仍然無法讀懂一篇論文。原因可能是你對研 究主題不熟悉，文章中出現的各種術語及縮寫阻礙了你的理解；亦或是你無法理解
文章的證明或者實驗技術；也可能是文章寫得很爛，包含了沒有事實根據的觀點；還可能是深夜讀文章時你太累了。這時你有三個選擇：
（1）把論文放在一邊，希望 即使不看懂論文也能獲得事業上的成功，
（2）先把論文放一放，去補充閱讀相關的 背景材料，之后再回過頭來閱讀論文，
（3）堅持下去，進行第三輪閱讀。
2.3 第三輪閱讀
為了完全讀懂一篇論文（尤其當你是審稿人時），需要進行第三輪閱讀。這一 輪的關鍵點是基本重現論文，即采用與論文相同的假設，由你重新推演整個工作。通過比較你的工作與論文的工作，你可以很容易地發現論文的創新點，以及隱含的 缺點及假設。
這輪閱讀關注的是細節。你應當識別出論文的所有假設并加以驗證。更進一 步地，設想如果你是文章的作者，你會怎樣論述文章的觀點（idea）。將你的設想 與論文的實際論述相比較，能更深入地理解論文的證明以及論證技巧。這一過程 將有助于提升你自己的論證水平。在第三輪閱讀中，你也應當記下有助于自己未 來研究的想法（ideas）。
對于初學者，這輪閱讀需要四至五小時，而對于經驗豐富的學者，僅需一小時 左右。這輪閱讀過后，應當能憑記憶推想出整篇文章的結構，同時能清楚地說明文 章的優缺點。更為重要的是，應當能準確地指出文章隱含的假設，缺少的相關文獻，以及實驗或分析方法中可能存在的問題。
3 進行文獻綜述
文獻綜述是對研究者論文閱讀能力的檢驗。在這過程中，你需要閱讀幾十篇、 上百篇的論文，而且這些論文可能并不屬于你所熟悉的領域。你應該閱讀哪些論 文？下面介紹如何利用三輪閱讀法來回答這個問題。
第一步，使用 Google 或 CiteSeer 等學術搜索引擎以及恰當的關鍵詞找到三至五篇近期發表的論文。對這些論文進行第一輪閱讀，了解大致內容，然后重點閱讀 論文的“相關工作”（或文獻綜述）章節。通過以上閱讀，你將會找到近期相關工 作的概述，甚至找到一篇近期發表的綜述論文。如果找到了這樣的綜述論文，那么 你的搜索工作就結束了，直接閱讀這篇論文即可。如果沒找綜述論文，那么進入下 一步。
第二步，找到上述論文參考文獻中反復出現的論文以及作者。這些論文及作者是你所在研究領域的關鍵文獻及學者。先把論文下載好，然后去那些學者的個人 網頁，查看他們近期將論文發表在哪些期刊、哪些學術會議上。這有助于你找到所 在領域的頂級期刊及會議，因為最好的學者通常會將成果發表在最好的期刊或會 議上。
第三步，到上述期刊及會議的網站上查看近期發表的論文。快速瀏覽論文標題。就能找到近期發表的高質量相關論文。這些論文連同你在第二步中找到的論文就 是你進行文獻綜述時需要閱讀的第一批論文。對這些論文進行兩輪閱讀。如果這些 論文都引用了一篇你之前未列入上述名單的論文，那么找到并閱讀之。如有必要， 這一過程可以反復進行下去。
4 本文作者的經驗
過去十五年，我一直采用三輪閱讀法來閱讀會議論文、寫審稿意見、做文獻綜述以及在討論前快速閱讀論文。這種規范的方法使我在把握整體內容前避免陷入無謂的細節中去。這種方法也有助于我估算評閱一組論文所需的時間。更為重要的是，我能根據我的需要以及所擁有的時間來靈活地調整論文閱讀的深度。
5 相關文獻
如果你是作為審稿人對論文進行評閱，那么你可以閱讀 Timothy Roscoe 關 于論文評閱的論文 [1]。如果你計劃寫一篇科技論文，那么你可以瀏覽 Henning Schulzrinne 的網站 [2] 以及閱讀 George Whitesides 關于此過程的出色總結 [3]。
6 請求
我會根據讀者的反饋不斷更新本文。如果讀者對本文有任何評論或改進建議， 可以給我發郵件，也可以到 CCRo 網站反饋 [4]。
7 致謝
本文的第一版由我的學生起草，他們是 Hossein Falaki，Earl Oliver 及 Sumair Ur Rahman。感謝他們的工作。我也從 Christophe Doit 敏銳的評論以及 Nicole Keshav 出色的編輯中獲益匪淺。本文受以下單位或項目資助：加拿大國家科學與工程委員會，加拿大首席研究 員計劃，北電網絡，微軟，因特爾以及斯普林特公司（The National Science and Engineering Council of Canada, the Canada Research Chair Program, Nortel Networks, Microsoft, Intel Corporation, and Sprint Corporation.）。
參考文獻
[1] T. Roscoe, “Writing Reviews for Systems Conferences,” //people.inf.ethz.ch/troscoe/pubs/review- writing.pdf.
[2] H. Schulzrinne, “Writing Technical Articles,” hgs/etc/writing-style.html.
[3] G.M. Whitesides, “Whitesides’Group: Writing a Paper,” .
[4] ACM SIGCOMM Computer Communication Review Online, .
付費5元查看完整內容
注冊地址： 北京市海淀區羊坊店路18號2幢3層301-191