亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

3月2日，阿里巴巴與清華大學聯合發布業界最大的中文多模態預訓練AI模型M6，該模型參數規模超千億，同時具備文本、圖像的理解和生成能力，圖像設計效率超越人類，可應用于產品設計、信息檢索、機器人對話、文學創作等領域。

預訓練語言模型是讓AI具備認知能力的關鍵技術，它突破了傳統深度學習方法的瓶頸，是一種新型AI訓練思路，即首先自動學習大量語言文字和圖像數據，記憶和理解人類豐富的先驗知識，再進一步學習專業領域信息，從而讓AI同時掌握常識和專業知識。目前，谷歌、微軟和 Facebook等企業已投入該技術的研發。

此次發布的M6模型參數規模達到1000億，是多模態預訓練領域史上最大的模型，其理解和生成能力超越傳統AI。以圖像生成為例，模型可設計包括服飾、鞋類、家具、首飾、書籍等在內的30多個物品類別的圖像，最短一分鐘即可完成作品的創作，效率超越普通設計師。

M6的突破源自多項底層技術創新。阿里巴巴研究團隊基于自研Whale分布式框架，將參數規模擴展到千億的同時，利用大規模數據并行和模型并行，訓練速度提升10倍以上，僅需1-2天即可完成上億數據的預訓練。此外，M6模型首次將多模態預訓練模型應用到基于文本的圖像生成任務，結合向量量化生成對抗網絡學習文本與圖像編碼共同建模的任務，能夠生成清晰度高且細節豐富的圖像。

阿里巴巴達摩院智能計算實驗室資深算法專家楊紅霞表示：“多模態預訓練是下一代人工智能的基礎，M6模型實現了訓練效率和生成精度等多項突破，是當前眾多中文多模態下游任務最優模型。”

作為國內最早投入認知智能研究的科技公司之一，阿里巴巴已有30多項認知智能領域研究成果被國際頂級會議收錄；研究團隊還將研發更高規模的萬億參數多模態預訓練模型，進一步突破算力及預訓練模型的極限，最終實現通用領域的高質量泛內容生成。

論文內容

M6: A Chinese Multimodal Pretrainer

Authors: Junyang Lin, Rui Men, An Yang, Chang Zhou, Ming Ding, Yichang Zhang, Peng Wang, Ang Wang, Le Jiang, Xianyan Jia, Jie Zhang, Jianwei Zhang, Xu Zou, Zhikang Li, Xiaodong Deng, Jie Liu, Jinbao Xue, Huiling Zhou, Jianxin Ma, Jin Yu, Yong Li, Wei Lin, Jingren Zhou, Jie Tang, Hongxia Yang

摘要：

在這項工作中，我們構建了最大的中文多模態預訓練數據集，包含超過1.9TB的圖像和292GB的文本，涵蓋了廣泛的領域。

我們提出了一種跨模態預訓練方法，稱為M6，Multi-Modality to MultiModality Multitask Mega-transformer，對單模態和多模態數據進行統一的預訓練。

我們將模型規模擴大到100億和1000億參數，并建立了最大的中文預訓練模型。我們將該模型應用于一系列下游應用，并與強基線進行了比較，展示了其出色的性能。

在此基礎上，我們專門設計了下游的文本引導圖像生成任務，結果表明，經過微調的M6可以生成高分辨率、細節豐富的高質量圖像。

//arxiv.org/pdf/2103.00823.pdf

引言

預訓練已經成為自然語言處理(natural language processing, NLP)研究的一個熱點[1,2,7,15,17,18,25,29,35,42,47]。最近的GPT-3具有超過175B的參數，這表明利用大數據訓練的大模型具有非常大的容量，在下游任務中，特別是在零樣本的情況下，它的性能超過了最先進的水平。同時，預訓練在自然語言處理中的迅速發展也促進了跨模態預訓練的發展。許多研究[4,10,16,20,22,23,26,27,36,49]為各種跨模態下游任務創造了最新的性能。

遺憾的是，最近的研究大多集中在英語數據的預訓練上。目前既缺乏大規模的中文數據集，也缺乏基于中文數據的大規模預訓練模型。因此，在本研究中，我們開發了一個由1.9TB以上的圖像和292GB文本組成的大規模數據集M6-語料庫。據我們所知，這是中國最大的多模態和自然語言預訓練數據集。從網頁上收集的數據集由不同類型的數據組成，涵蓋了大量的領域，包括百科全書、問答、論壇討論、產品描述等。同時，我們設計了復雜的清洗程序，以確保數據的高質量。

此外，為了充分利用海量高質量數據，我們建立一個能夠處理多種模態數據的超大模型，以適應不同類型的下游任務。因此，我們提出了一種名為M6的新型模型，即MultiModality-to-MultiModality Multitask Mega-transformer。該模型以transformer為基礎，并對其進行了多任務的預訓練。預訓練使模型具有單模態和多模態的理解和生成能力。基于M6的架構，我們構建了M6-10B和M6-100B，分別放大到100億和1000億參數。更具體地說，M6-100B是根據中文數據預先訓練的最近最大的模型。我們將該模型應用于產品描述生成、視覺問答、社區問答、中文詩歌生成等一系列下游應用，實驗結果表明，M6優于一系列強基線。

這項工作的另一個貢獻是，我們首先將預訓練與文本-圖像生成結合起來。繼Ramesh等人的[30]之后，我們利用了一個兩階段的框架來生成圖像。具體來說，我們使用經過訓練的矢量量化生成對抗網絡用離散圖像編碼來表示圖像，然后使用經過訓練的M6來學習文本和編碼之間的關系。這樣的學習可以連接這兩種形式，可以實現可控的文本-圖像生成。綜上所述，M6的貢獻如下:

• 我們收集并構建了業界最大的中文多模態預訓練數據，包括300GB文本和2TB圖像。

• 我們提出用M6進行中文的多模態預訓練，我們將模型規模擴大到100億和1000億參數。M6-10B和M6-100B都是最近最大的多模態預訓練模型。

• M6是通用的，在VQA中超過11.8%，在圖像-文本匹配中超過10.3%。此外，M6能夠生成高質量的圖像。

• 通過精心設計的大規模分布式訓練優化，M6在訓練速度上具有明顯優勢，大大降低了訓練成本，為多模態預訓練的更廣泛應用創造了可能。

【導讀】深度學習與計算系統結合是現在業界發展的趨勢。Logical Clocks的CEO Jim Dowling講述了分布式深度學習最新技術發展，以及其Hosworks開源平臺。

人工智能的需求在過去十年中顯著增長，很大程度是深度學習的進步。這種增長是由深度(機器)學習技術的進步和利用硬件加速的能力推動的。然而，為了提高預測的質量和使機器學習解決方案在更復雜的應用中可行，需要大量的訓練數據。盡管小型機器學習模型可以用適量的數據進行訓練，但用于訓練較大模型(如神經網絡)的輸入隨著參數的數量呈指數增長。由于對處理訓練數據的需求已經超過了計算機器計算能力的增長，因此需要將機器學習工作量分散到多臺機器上，并將集中式系統轉變為分布式系統。這些分布式系統提出了新的挑戰，首先是訓練過程的有效并行化和一致模型的創建。

分布式深度學習有很多好處——使用更多的GPU更快地訓練模型，在許多GPU上并行超參數調優，并行消融研究以幫助理解深度神經網絡的行為和性能。隨著Spark 3.0的出現，GPU開始轉向執行器，使用PySpark的分布式深度學習現在成為可能。然而，PySpark給迭代模型開發帶來了挑戰——從開發機器(筆記本電腦)開始，然后重新編寫它們以運行在基于集群的環境中。

本講座概述了分布式深度學習的技術，并提供了可用系統的概述，從而對該領域當前的最新技術進行了廣泛的概述。

Jim Dowling是 Logical Clocks公司的首席執行官，也是KTH皇家理工學院的副教授。他是開源的Hopsworks平臺的首席架構師，這是一個橫向可擴展的機器學習數據平臺。

//www.slideshare.net/dowlingjim/invited-lecture-on-gpus-and-distributed-deep-learning-at-uppsala-university

【導讀】人工智能正在影響我們的方方面面。如何與AI和諧相處，成為可信協作伙伴，是個要思考的問題。近日59位世界級學者共同撰寫一份構建可信賴人工智能的論文《邁向可信賴的人工智能：可驗證聲明的支持機制》，詳細闡述了Trustworthy AI涵蓋的機制，是相關從業者不可少的借鑒資料。

本文中文翻譯的通訊作者是謝旻希(Brian Tse)。在翻譯過程中，我們得到了肖文泉(Jenny W. Xiao)的寶貴幫助

人工智能技術的新發展使其在商業、科學與其他創新領域得到了廣泛的應用。隨著此波應用浪潮的涌現，人們越來越意識到人工智能系統所帶來的風險，并認識到現有法律與業界、學界規范仍不足以保證人工智能的可靠研發[1] [2][3]。

機器學習領域的研發人員和科技公司已經采取了一些措施來彌補這些規 范不足，其 舉措包括廣泛采用人工智能行業認可的道德準則。然而，道德準 則缺乏法律約束力，也往往難以轉化為實際行動。而且，外界人 員很難評估人工智能開發者到底有是否表里如一，也沒有辦法讓他們在違反道德原則的時候承擔責任。這就導致了很多人譴責人工智能開發者在談論道德問題時口惠而實不至[4]。人工智能開發者要想贏得系統用戶、客戶、政府、社會和其他利益相關方的信任，就不應該只談原則，而要集中精力建立合理的機制來保 證行為的負責性[5] 。作出可檢驗、能追責的承諾是朝這個方向邁出的重要一步。

如果能提供精準的聲明和充足的證據，人工智能開發人員就能更好地向監管機構、公眾和其他開發者證明其行為的負責。如果有關人工智能開發的聲明更容易被驗證，就能實現更有效的政府監管并且減少開發者為獲得競爭優勢而偷工減料的壓力[1]。相反地，如果沒有能力驗證開發人員的聲明，用戶或其他利益相關方就更有可能因模棱兩可、有誤導性或虛假的說法而利益受損。

本報告提出了諸多建議，意在使不同利益相關方能夠更容易地檢驗人工智能開發者的對外聲明，特別是有關其安全性、安保性、公平性和隱私性的聲明。保證可信任的人工智能發展是一個多方面的問題，我們認為，執行這些機制有助于促進該目標的達成。[1]本報告中提出的機制可以幫助我們處理不同利益相關方可能面對的問題：

• 作為用戶，我能否在使用新的人工智能系統機器翻譯敏感文件時，檢驗其對隱私保護級別聲明的真實性？

• 作為監管者，我能否追蹤無人駕駛汽車導致事故的過程，并且知道用哪種標準來評判汽車公司的安全聲明？

• 作為學者，我能否在缺乏業界計算資源的條件下，對大型人工智能系統所帶來的影響進行客觀的研究？

• 作為人工智能研發者，我能否確信我在某一領域的競爭對手遵循最佳實踐，而不是偷工減料以獲得 競爭優勢？

即使人工智能開發者有意愿或者需求使自己的產品聲明具體而可驗證，他們也可能缺乏達成這一目標的相 關機制。人工智能開發社群需要一系列有效的機制，為檢驗人工智能系統和開發過程的聲明提供支持。

從這個角度出發，本報告的作者于2019年4月舉行了一次研討會，旨在構思促進研發者提出聲明、驗證聲明的機制。[1]本報告以該研討會上的討論成果為基礎，提出的機制主要致力于達成以下兩個目標：

• 增加溝通渠道，便利人工智能開發者對外驗證有關其系統屬性的聲明。

• 加強應對能力，使利益相關方（如用戶、政府決策者和更廣大的社會)能夠對人工智能開發者提出特殊而多樣的要求。

針對妨礙人工智能聲明有效評估的具體問題，本報告提出了一一對應的一系列機制和建議。其中部分機制已經存在，但仍需完善，而另一部分則是前所未有的。本報告旨在為進一步增強人工智能研發聲明的可驗證性作出貢獻。

該報告提出的機制作用于制 度、軟件和硬 件三個層面。制度、軟件和硬件也是人工智能系統和開發過程中相互重疊、相互影響的三大關鍵要素。

• 體制機制：這些機制改變或闡明開發者面臨的激勵機制，并且增強其行為的能見度，以保證其研發的系統具有安全性、可靠性、公平性和隱私保護。體制機制是有效驗證人工智能研發聲明的基礎，因為人類和人類行為將 終決定人工智能的發展方向。本報告在討論中提出，可以利用第 三方審核來替代自我評估聲明；利用紅隊測試練習 （red teaming exercises)以增 強開發人員的防范意識，減少系統被誤用或襲擊的可能性；利用誤 差和安全隱患偵查激勵制度 (bias and safety bounties) 以建立激勵機制，促進對人工智能系統缺陷的及時發現、及時報告；以及加強人工智能安全事故信 息共享，以增 進社會對人工智能系統的認識，理解到人工智能可能帶來意外或非理想的后果。

• 軟件機制：這 些機制讓人工智能系統的屬性更易于理解和監督。具體措施包括審計 跟蹤 (audit trails)，通 過收集有關開發和部署過程的關鍵信息來強化高利害人工智能系統的問責制；保 證可解 釋性以增 進對人工智能系統特征的理解和審查；以及 隱 私保護的機器學習 (privacy-preserving machine learning)，使開 發人員對隱私保護的承諾更有魯棒性。

• 硬件機制：與計算硬件有關的機制可以在多方面發揮關鍵作用，包括證實有關隱私和安全性的聲 明、提高組織如何使用資源的透明度、以及影響誰具有驗證不同聲明所必需的資源。探討的機制包 括機器學習的硬件安全設施以提高隱私和安全性聲明的可驗證性；高精度計算資源的測量，以提高 關于計算能力使用的聲明的價值和可比性；以及為學術界提供計算資源支持，以提高業界以外人士 評估有關大型人工智能系統的聲明的能力。

每種機制都提供額外的途徑來檢驗開發者的承諾，有潛力為建立可信賴的人工智能生態作出貢獻。下一頁 和報告末尾詳細地列舉了不同機制的相關建議，并且包含完整的列表。

建議

制度機制和建議

1. 一個利益相關方的聯盟應組建工作小組，研究如何建立第三方人工智能審計機制并為該機制提供資 源。

2. 人工智能研發機構應該參與紅隊測試 (red-teaming)的練習，從而發現系統潛在的風險，并分享相 關的最佳實踐和應對問題的工具。

3. 人工智能開發者應試行誤差和安全隱患偵查激勵制度 (bias and safety bounties)，以建立廣泛監 督人工智能系統的激勵機制和標準流程。

4. 人工智能開發者應該通過不同的合作渠道，分享更多人工智能事故的信息。

軟件機制和建議

5. 標準制定機構應該和學界、業界合作，要求對安全攸關的人工智能系統實行審計跟蹤 (audit trails) 。

6. 人工智能研發和資助機構應該支持人工智能系統的可解釋性研究，并將重點放在風險評估和監察 上。

7. 人工智能開發者應開發、共享并使用隱私保護的機器學習 (privacy-preserving machine learning)的工具與指南，并且其中必須包括衡量性能的標準。

硬件機制和建議

8. 業界和學界應共同努力為人工智能加速器開發硬件安全功能，或者確立在機器學習環境中使用安全 區（包括商品硬件上的“安全飛地”）的最佳實踐。

9. 一個或多個人工智能實驗室應該對單個項目進行高精度計算資源的測量，并報告其實踐能否被廣泛 采用。

10. 政府資助機構應大幅增加對學界研究人員的計算能力資源的資助，以增強學術研究人員驗證商業人 工智能聲明的能力。