亚洲男人的天堂2018av,欧美草比,久久久久久免费视频精选,国色天香在线看免费,久久久久亚洲av成人片仓井空

ChatGPT 的廣泛應用：ChatGPT 是基于GPT 模型的大型對話式語言 模型，具有高質量文本生成、代碼編寫等多項功能。隨著ChatGPT 被 廣泛關注，GPT 模型逐漸成為人工智能領域的研究熱點，并開始應用 于其他領域。本篇報告將其核心算法Transformer 應用于量化投資策 略。 ? 自注意力機制：自注意力機制是NLP 的一種數據處理方法，能夠有效 捕捉輸入序列各位置之間的關系。自注意力機制通過計算query 向量 與key 向量的相關性來加權平均value 矩陣，得到輸出結果；而多頭 注意力機制則利用并行計算和拆分矩陣為多個頭的方式，在自注意力 機制的基礎上進一步提高模型訓練效率。 ? Transformer 架構：Transformer 架構是一種采用自注意力機制的神經 網絡模型，由位置編碼、編碼層和解碼層組成。位置編碼使用正弦和 余弦函數計算單詞位置信息，編碼器將序列中各位置之間關系的信息 進行編碼并輸出，解碼器則使用編碼器輸出的序列信息逐個預測輸出。模型同時具備并行計算和高效捕捉關系的能力，被廣泛應用于自然語 言處理、圖像生成等領域。 ? 基于Transformer 架構的選股策略：本報告將Transformer 模型應用 于股票漲跌預測中，選取個股漲跌幅和換手率作為面板數據輸入，通 過輸出股票未來漲跌概率進行分類。在月度調倉策略中，中證500、 滬深300 和全市場選股自2020 年以來均獲得良好的相對收益與較強 的回撤控制能力。 ? 相對于傳統神經網絡的優勢：1. 處理長期記憶；2. 變長輸入序列；3. 并行計算效率；4. 預訓練模型提高泛化能力。

ChatGPT開啟大模型“軍備賽”，存儲作為計算機重要組成部分明顯受益: ChatGPT開啟算力軍備賽，大模型參數呈現指數規模，引爆海量算力需求，模型計算量增長速度遠超人工智能硬件算力增長速度，同時也對數據傳輸速度提出了更高的要求。XPU、內存、硬盤組成完整的馮諾依曼體系，以一臺通用服務器為例，芯片組+存儲的成本約占70%以上，芯片組、內部存儲和外部存儲是組成核心部件；存儲是計算機的重要組成結構， “內存” 實為硬盤與CPU之間的中間人，存儲可按照介質分類為ROM和RAM兩部分。 　　存算一體，后摩爾時代的必然發展: 過去二十年中，算力發展速度遠超存儲， “存儲墻”成為加速學習時代下的一代挑戰，原因是在后摩爾時代，存儲帶寬制約了計算系統的有效帶寬，芯片算力增長步履維艱。因此存算一體有望打破馮諾依曼架構，是后摩時代下的必然選擇，存算一體即數據存儲與計算融合在同一個芯片的同一片區之中，極其適用于大數據量大規模并行的應用場景。存算一體優勢顯著，被譽為AI芯片的“全能戰士”，具有高能耗、低成本、高算力等優勢；存算一體按照計算方式分為數字計算和模擬計算，應用場景較為廣泛， SRAM、RRAM有望成為云端存算一體主流介質。 　　存算一體前景廣闊、漸入佳境: 存算一體需求旺盛，有望推動下一階段的人工智能發展，原因是我們認為現在存算一體主要AI的算力需求、并行計算、神經網絡計算等；大模型興起，存算一體適用于從云至端各類計算， 端測方面， 人工智能更在意及時響應，即“輸入”即“輸出”，目前存算一體已經可以完成高精度計算；云端方面，隨著大模型的橫空出世，參數方面已經達到上億級別，存算一體有望成為新一代算力因素；存算一體適用于人工智能各個場景，如穿戴設備、移動終端、智能駕駛、數據中心等。我們認為存算一體為下一代技術趨勢并有望廣泛應用于人工智能神經網絡相關應用、感存算一體，多模態的人工智能計算、類腦計算等場景。

ChatGPT快速滲透， AI產業迎發展新機 　　ChatGPT是由OpenAI公司開發的人工智能聊天機器人程序， 于2022年11月發布， 推出不久便在全球范圍內爆火。根據World of Engineering數據顯示， ChatGPT達到1億用戶量用時僅2個月， 成為史上用戶增長速度最快的消費級應用程序。與之相比， TikTok達到1億用戶用了9個月， Instagram則花了2年半的時間。從用戶體驗來看， ChatGPT不僅能實現流暢的文字聊天， 還可以勝任翻譯、 作詩、 寫新聞、 做報表、 編代碼等相對復雜的語言工作。 　　ChatGPT爆火的背后是人工智能算法的迭代升級。ChatGPT是基于GPT-3.5微調得到的新版本模型， 能夠借助人類反饋的強化學習（RLHF） 技術來指導模型訓練， 實現模型輸出與人類預期的需求， 使對話內容更加人性化和富有邏輯性。從2008年第一代生成式預訓練模型GPT-1誕生以來， GPT系列模型幾乎按照每年一代的速度進行迭代升級， 未來隨著大語言模型（LLM） 技術的不斷突破， AI相關應用有望加速落地， AI產業或將迎來新一輪發展機遇。 　　ChatGPT激起AI浪潮，大算力芯片迎來產業機遇 　　ChatGPT是生成式人工智能技術（AIGC） 的一種， 與傳統的決策/分析式AI相比， 生成式AI并非通過簡單分析已有數據來進行分析與決策， 而是在學習歸納已有數據后進行演技創造， 基于歷史進行模仿式、 縫合式創作， 生成全新的內容。AIGC的應用非常廣泛， 包括自然語言生成、 圖像生成、 視頻生成、 音樂生成、 藝術創作等領域。 　　AIGC產業鏈主要分為上游算力硬件層、 中游數據/算法軟件層和下游行業應用層。硬件層依靠高性能AI芯片、 服務器和數據中心為AIGC模型的訓練提供算力支持， 是承載行業發展的基礎設施；數據/算法層軟件層主要負責AI數據的采集、 清洗、 標注及模型的開發與訓練， 多方廠商入局自然語言處理、 計算機視覺、 多模態模型等領域；行業應用層目前主要涉及搜索、 對話、推薦等場景， 未來有望在多個行業呈現井噴式革新。 　　多模態賦能下游行業智慧化升級 　　多模態大模型有望成為AI主流， 賦能下游行業智能升級。生成式AI主要依賴于人工智能大模型， 如Transformer、 BERT、GPT系列等。這些模型通常包含數十億至數萬億個參數， 需要龐大的數據集進行訓練， 致使AI算力的需求也呈現出指數級的增長。多模態是一種全新的交互、 生成模式， 集合了圖像、 語音、 文本等方式， 因其可以結合多種數據類型和模態的學習，將有望徹底改變我們與機器互動的方式， 快速占據人工智能主導地位。我們認為多模態大模型長期來看不僅可以從成本端降本增效， 需求端也將通過快速滲透推廣為下游行業帶來持續增長需求， 從而快速推動下游行業智慧化應用升級。 　　模型更新升級帶動下游行業不斷發展 　　從GPT-1到ChatGPT， 模型參數與訓練數據量不斷增加， 所需算力資源不斷提升： 　　GPT-1：最早的GPT模型之一， 包含了1.17億個參數， 預訓練數據量約為5GB。 　　GPT-2：參數數量達到了1.5億個， 預訓練數據量達40GB。 　　GPT-3：是目前為止最大的語言模型之一， 包含了1750億個參數， 預訓練數據量為45TB。 　　ChatGPT：基于GPT-3模型的變種之一， 參數量預計與GPT-3相近。 　　GPT-4性能提升顯著， AIGC應用市場空間廣闊 　　多模態模型是實現人工智能應用的關鍵。3月14日OpenAI發布GPT-4多模態大模型， 擁有1） 強大的識圖能力；2） 文字輸入限制提升至2.5萬字；3） 回答準確性顯著提高；4） 能夠生成歌詞、 創意文本、 實現風格變化。在各種專業和學術基準上，GPT-4已具備與人類水平相當表現。如在模擬律師考試中， 其分數在應試者前10%， 相比下GPT-3.5在倒數10%左右。多模態大模型在整體復雜度及交互性上已有較大提升， 模型升級有望加速細分垂直應用成熟， 賦能下游智慧化升級， 帶動需求快速增長。 　　AIGC下游市場滲透率低， 增長空間廣闊。根據 Gartner數據， 目前由人工智能生成的數據占所有數據的 1%以下， 預計2023年將有 20%的內容被生成式AI 所創建， 2025 年人工智能生成數據占比將達到 10%。根據前瞻產業研究院數據， 2025年中國生成式商業AI應用規模將達2070億元， CAGR（2020-2025） 為84.06%。

**為什么 ChatGPT 如此重要？AI C 端產品中的第一個爆款，可能代表著商業 化的拐點。**1）從用戶體驗上，比起競品和上一代產品，ChatGPT 的連續對話 能力明顯更強，具備了大范圍商業化的潛力。2）從應用場景的潛力上，語義 文本類產品想象空間較圖片類更大。短期看有望落地的包括更專業的客服機器 人、更垂直更專業化的 AI（如醫療教育領域）、新一代的智能搜索等。3）ChatGPT 的出現或將加快巨頭對于 AI 的發展速度。ChatGPT 的成功或將促進各科技巨 頭加大對于 AI 的研發投入，如谷歌近日宣布投資 OpenAI 的競爭對手 Anthropic。大廠的競爭有助于技術的進步和商業化的加速。

? 為什么是 ChatGPT？比起競品和上一代產品，ChatGPT 在多方面有了明顯改 善。1）道德性的增強，敢于質疑提問者提問前提的正確性和正當性。避免出 現偏見、歧視等毒害信息。2）主動承認錯誤或主動承認無法回答某一問題。3） 可以理解整段對話上下文的語義，而不是孤立的回答其中一個問題。4）對提 問者意圖判斷能力大幅提升，并非單純根據相關性進行答案羅列。因此整體上， ChatGPT 有著比其他 AI 機器人更好的用戶體驗，具備了真正意義上的連續對 話的能力。

**? 如何落地？**短期看是降本增效的新生產力工具，長期看可能帶來新的內容生 產范式。ChatGPT 的成功證明了生成式模型的進化，實現通用人工智能 AGI 的可能性進一步提高。其重要性體現在 AI 對人類傳達信息的載體有了更好 的學習，在此基礎上各個媒介之間的互通成為可能。例如從自然語言生成編程 語言，可以產生新的人機交互方式；從自然語言生成圖片和視頻，可以革新內 容行業的生產范式。短期直接落地的場景可能是在文本端，提高人的效率：搜 索、營銷文案、客服、輔助寫作；更長期的可能在于提高人機互動的智能， 如在游戲、虛擬人方面的應用。

ChatGPT帶火AIGC，OpenAI引領技術和生態。2022年11月，由OpenAI開發的聊天機器人ChatGPT推出并席卷了整個行業，其引入人類反饋的強化學習和監督學習訓練方法，具備優秀的聊天對話、文案創作、代碼編寫等功能，且得到了微軟的傾力支持，成為史上用戶增長最快的消費應用。聚焦國內，百度在大模型領域積累深厚，總體水平處于行業前端，其創新性引入大規模知識圖譜，模型性能得到大幅提升，公司近期宣布其“文心一言”產品將于2023年3月完成內測并面向公眾開放，下游關注度極高，目前已經得到新聞傳媒、互聯網、金融等多個行業客戶的廣泛支持。

　　變革：AIGC與人更為神似，模型和數據是主要助力。AIGC實現了從分析內容到創造生成新內容的跨越，而模型、數據集、算力、應用是催生AI技術新范式的重要因素。在模型方面，Transformer預訓練大模型為生成式AI帶來了里程碑式飛躍，其中OPENAI發布的GPT系列大模型掀起AIGC熱潮，尤其是ChatGPT火爆出圈。在數據集方面，數據量、多樣性、數據質量是訓練數據集的關鍵要素。 　　市場：大模型需要大算力，推動AI服務器市場增長。大模型的實現需要十分強大的算力來支持訓練過程和推理過程，根據OPENAI數據，訓練GPT-3175B的模型，需要的算力高達3640PF-days。ChatGPT的訓練成本和推理成本高昂。我們認為，隨著模型的迭代和AI芯片廠商產品的迭代，ChatGPT的訓練成本和推理成本未來必將呈現下降趨勢。但一次訓練百萬美元量級的訓練成本和每天百萬美元量級的推理成本，隨著全球和中國人工智能廠商布局大模型，大模型將為全球和中國AI芯片和AI服務器市場的增長提供強勁動力。根據我們的估算，大模型將為全球和中國AI服務器市場帶來約910.44億美元和345.50億美元的市場空間。市場空間巨大，相關芯片和服務器廠商將深度受益此次ChatGPT浪潮。 　　應用：行業將逐步回歸理性，能否突破需要看B端。未來2-3年是行業應用落地的關鍵時段，AIGC在經歷了近期的炒作熱潮結束之后，預計將經歷一段下沉期，市場趨向理性。期間，AIGC需要加快教育和融入市場，培育產品和應用。其中，B端是AIGC含金量最大的市場，AIGC需將技術轉化成工具和解決方案，為企業和行業賦能。其中，文本、圖像生成以及類聊天機器人等產品在B端都有較大應用潛力，游戲、金融和快消等市場有望率先取得進展。

**刷爆的ChatGPT什么算法這么強！臺大李宏毅老師國語講解《ChatGPT (可能)是怎么煉成的 》！ **

** **

** **

　AIGC多模態跨模態應用逐漸成熟，市場空間廣闊。 　　廣義的AIGC指具備生成創造能力的AI技術，即生成式AI。可以基于訓練數據和生成算法模型，自主生成創造新的文本、圖像、音樂、視頻等內容。2022年被稱為AIGC元年，未來兼具大模型和多模態模型的AIGC模型有望成為新的技術平臺。據《中國AI數字商業產業展望2021-2025》報告，預測AI數字商業內容的市場規模將從2020年的40億元，增加到2025年的495億元。 　　ChatGPT產品歷經多代技術演進，產品與商業模式逐漸成熟。 　　ChatGPT是文本生成式AI，過去的傳統AI偏向于分析能力，主要基于已有內容；現在文本生成式AI基于底層Transformer模型，不斷訓練數據和迭代生成算法模型，歷經GPT-1、GPT-2、GPT-3，模型不斷升級，到ChatGPT的GPT3.5模型，已可以自主生成各種形式的內容。近期收費版ChatGPTPlus版本發布，AI商業化序幕逐漸拉開。 　　AI商業化落地在即，行業算法側和算力側投資機會有望超預期。 　　根據數據顯示，ChatGPT總算力消耗約為3640PF-Days，按國內的數據中心算力測算，需要7-8個數據中心才能支持其運行。各模態AI數據訓練到應用均需要算法和算力的加持，未來要想大規模應用，算法訓練和算力部署均需先行。

ChatGPT系列報告：

**刷爆的ChatGPT什么算法這么強！臺大李宏毅老師國語講解《ChatGPT (可能)是怎么煉成的 》！ **

** **

** **

【芯片算力】▲芯片需求=量↑x價↑，AIGC拉動芯片產業量價齊升。1）量：AIGC帶來的全新場景+原場景流量大幅提高；2）價：對高端芯片的需求將拉動芯片均價。ChatGPT的“背后英雄”：芯片，看好國內GPU、CPU、FPGA、AI芯片及光模塊產業鏈。 　　相關標的：海光信息、景嘉微、龍芯中科、中國長城、安路科技、復旦微電、紫光國微、寒武紀、瀾起科技、德科立、天孚通信、中際旭創。 　　【深度學習框架】深度學習框架是人工智能算法的底層開發工具，是人工智能時代的操作系統，當前深度學習框架發展趨勢是趨于大模型訓練，對深度學習框架的分布式訓練能力提出了要求，國產深度學習框架迎來發展機遇。 　　相關標的：百度、海天瑞聲、商湯科技、微軟、谷歌、Meta。 　　【深度學習大模型】ChatGPT是基于OpenAI公司開發的InstructGPT模型的對話系統，GPT系列模型源自2017年誕生的Transformer模型，此后大模型數量激增，參數量進入千億時代，國內百度也發布了ERNIE系列模型并有望運用于即將發布的文心一言（ERNIEBot）對話系統，未來國內廠商有望在模型算法領域持續發力。 　　相關標的：百度、科大訊飛、商湯科技、谷歌、微軟。 　　【應用】ChatGPT火爆全球的背后，可以窺見伴隨人工智能技術的發展，數字內容的生產方式向著更加高效邁進。ChatGPT及AIGC未來有望在包括游戲、廣告營銷、影視、媒體、互聯網、娛樂等各領域應用，優化內容生產的效率與創意，加速數實融合與產業升級。 　　相關標的：百度、騰訊、阿里巴巴、網易、昆侖萬維、閱文集團、捷成股份、視覺中國、風語筑、中文在線、三七互娛、吉比特、天娛數科。 　　【通信】AIGC類產品未來有望成為5G時代新的流量入口，率先受益的有望是AIGC帶來的底層基礎算力爆發式增長。 　　相關標的：包括算力調度（運營商）、算力供給（運營商、奧飛數據、數據港）、算力設備（浪潮信息、聯想集團、紫光股份、中興通訊、銳捷網絡、天孚通信、光庫科技、中際旭創、新易盛）、算力散熱（英維克、高瀾股份）。

AIGC成為新的內容生產方式，跨模態生成值得重點關注。區別于PGC與UGC，AIGC是利用人工智能技術自動生成內容的新型生產方式。按照模態區分，AIGC可分為音頻生成、文本生成、圖像生成、視頻生成及圖像、視頻、文本間的跨模態生成，細分場景眾多，其中，跨模態生成需要重點關注。 　　自然語言處理（NLP）賦予了AI理解和生成能力，大規模預訓練模型是NLP的發展趨勢。NLP的兩個核心任務分別是自然語言理解（NLU）和自然語言生成（NLG）。以ELMo、BERT、GPT為代表的預訓練模型，降低了NLP的技術門檻。ELMo解決了“一詞多義”的問題；BERT通過MLM（類似于完形填空）和NLP（判斷句子是否相連）進行預訓練，增強了上下文的理解能力。GPT通過預測下一個詞，獲得了生成能力；GPT-3在此基礎上使用了更大的數據和更大模型，無需針對下游任務進行傳統的微調，并且采用了小樣本學習提升生成效果。 　　ChatGPT是NLP發展中具有里程碑式意義的模型之一。ChatGPT是OpenAI從GPT-3.5系列中的模型進行微調產生的聊天機器人模型。它能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼等任務。 　　生成模型賦予了AI創造力，擴散模型是最前沿的技術之一。AIGC的快速發展歸功于生成算法領域的技術積累。GAN的核心思想是“生成”與“對抗”，相比傳統的深度神經網絡，GAN能產生更好的生成樣本，但是仍需解決應用中的問題。擴散模型較GAN更接近人的思維模式，是基于馬爾科夫鏈，通過學習噪聲來生成數據。擴散模型實現了跨模態應用，包括OpenAI的GLIDE和DALL·E2、谷歌的Imagen、StabilityAI的StableDiffusion等。 　　人工智能由單模態智能，向多種模態融合方向發展。建立統一的、跨場景、多任務的多模態基礎模型或將成為人工智能發展的主流趨勢之一。CLIP模型將語言信息和圖像信息聯合訓練，能夠鏈接文本和圖片，成為跨模態生成應用的一個重要節點，“CLIP+其他模型”在跨模態生成領域成為一種較為通用的做法。2022年，微軟提出的BEiT-3多模態基礎模型，在視覺-語言任務處理上具備出色表現，包括視覺問答、圖片描述生成和跨模態檢索等。多模態提高了基礎模型的靈活性，使其在其他模態的應用中發揮新的潛質。 　　未來，值得關注的技術要素包括：長文本生成、開放式文本生成、NeRF模型、擴散模型、跨模態大型預訓練模型（支持的模態數據類型、模態對齊架構設計、支持的下游應用）、小樣本學習及自監督算法、強化學習及環境學習等。