“人工智能大模型是新質(zhì)生產(chǎn)力的代表，大模型和超級(jí)計(jì)算融合發(fā)展十分重要，我國(guó)需認(rèn)真布局、考慮?！苯?，中國(guó)科學(xué)院院士陳潤(rùn)生在2024中國(guó)算力發(fā)展專家研討會(huì)上表示。

　　在這場(chǎng)由中國(guó)智能計(jì)算產(chǎn)業(yè)聯(lián)盟與全國(guó)信標(biāo)委算力標(biāo)準(zhǔn)工作組共同主辦的研討會(huì)上，超智融合技術(shù)路線的趨勢(shì)與發(fā)展方向引發(fā)專家學(xué)者熱議。

　　在數(shù)字化、智能化浪潮中，算力正成為經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展的重要驅(qū)動(dòng)力。但千行百業(yè)的計(jì)算場(chǎng)景紛繁復(fù)雜，單一計(jì)算架構(gòu)無(wú)法應(yīng)對(duì)。與會(huì)專家學(xué)者認(rèn)為，超智融合兼具超算的強(qiáng)大處理能力與智算的算法優(yōu)化能力，二者融合發(fā)展已成大勢(shì)所趨。

　　資料顯示，當(dāng)前流行的預(yù)訓(xùn)練大模型具有數(shù)十億乃至上萬(wàn)億參數(shù)，訓(xùn)練時(shí)用到數(shù)萬(wàn)億個(gè)Token（大模型用來(lái)表示自然語(yǔ)言文本的單位），訓(xùn)練的過(guò)程就是海量數(shù)據(jù)處理的過(guò)程，這消耗了巨大算力。

　　據(jù)美國(guó)開(kāi)放人工智能研究中心（OpenAI）測(cè)算，2012年開(kāi)始，全球大模型訓(xùn)練所用的計(jì)算量呈指數(shù)級(jí)增長(zhǎng)，平均每3.43個(gè)月便會(huì)翻一番。目前，計(jì)算量已遠(yuǎn)超算力增長(zhǎng)速度。

　　“大模型的迅猛發(fā)展體現(xiàn)出新質(zhì)生產(chǎn)力的特質(zhì)，但目前遇到了算力瓶頸?！敝袊?guó)科學(xué)院計(jì)算技術(shù)研究所研究員張?jiān)迫f(shuō)。

　　北京應(yīng)用物理與計(jì)算數(shù)學(xué)研究所研究員袁國(guó)興說(shuō)：“現(xiàn)在的應(yīng)用越來(lái)越復(fù)雜，不同應(yīng)用需要不同算法，對(duì)計(jì)算機(jī)也有不同要求?！?/p>

　　國(guó)家信息中心信息化和產(chǎn)業(yè)發(fā)展部主任單志廣說(shuō)，超智融合隨著基礎(chǔ)算力、智算算力、超算算力等應(yīng)用多元化發(fā)展而誕生。這一技術(shù)通過(guò)混合型算力資源或融合型算力體系，可同時(shí)滿足多種不同算力的應(yīng)用需求。

　　實(shí)際上，超智融合技術(shù)正成為近年來(lái)全球計(jì)算領(lǐng)域熱點(diǎn)線月，在以“重塑超算”為主題的國(guó)際超算大會(huì)上，超智融合相關(guān)方案遍地開(kāi)花。

　　在我國(guó)，超智融合技術(shù)已被應(yīng)用于超算互聯(lián)網(wǎng)建設(shè)。今年4月，國(guó)家超算互聯(lián)網(wǎng)平臺(tái)上線，標(biāo)志著我國(guó)在超智融合領(lǐng)域邁出探索性步伐。平臺(tái)依托一體化算力調(diào)度、數(shù)據(jù)傳輸、生態(tài)協(xié)作體系，實(shí)現(xiàn)算力供給、軟件開(kāi)發(fā)、數(shù)據(jù)交易、模型服務(wù)等產(chǎn)業(yè)鏈相關(guān)各方緊密鏈接，構(gòu)建市場(chǎng)化、互聯(lián)網(wǎng)化、標(biāo)準(zhǔn)化的先進(jìn)計(jì)算服務(wù)環(huán)境。

　　數(shù)據(jù)顯示，平臺(tái)上線家應(yīng)用、數(shù)據(jù)、模型等服務(wù)商入駐，并提供超3200款商品。這些商品覆蓋科學(xué)計(jì)算、工業(yè)仿真、人工智能模型訓(xùn)練等領(lǐng)域，可滿足全社會(huì)對(duì)先進(jìn)計(jì)算服務(wù)的需求。

　　陳潤(rùn)生認(rèn)為，發(fā)展大模型與智算，不僅要改進(jìn)應(yīng)用層面的模型和算法，還要在基礎(chǔ)理論層面有所突破。在他看來(lái)，隨著模型規(guī)模擴(kuò)張，一味“堆芯片”并不可取。根本上還要向人腦學(xué)習(xí)，把空間復(fù)雜度、時(shí)間復(fù)雜度壓縮得更小，以更低能耗實(shí)現(xiàn)更高性能。

　　中國(guó)科學(xué)院院士錢德沛認(rèn)為，在硬件方面，要盡量以最低能耗實(shí)現(xiàn)最高性能。未來(lái)不一定要做面面俱到的硬件，可重構(gòu)或柔性或許是主要發(fā)展路徑。而在軟件方面，要從基本大模型理論出發(fā)，形成完整支撐人工智能的軟件棧。

　　“我國(guó)一些超算中心已能為大模型訓(xùn)練提供支撐，未來(lái)還應(yīng)重點(diǎn)圍繞國(guó)產(chǎn)算力芯片發(fā)展關(guān)鍵軟件，進(jìn)一步實(shí)現(xiàn)軟硬件協(xié)同優(yōu)化?！敝袊?guó)工程院院士鄭緯民說(shuō)。

　　中國(guó)信通院云計(jì)算與大數(shù)據(jù)研究所所長(zhǎng)何寶宏認(rèn)為，傳統(tǒng)超算和智算訓(xùn)練，對(duì)底層基礎(chǔ)設(shè)施的要求各不相同?！斑@需要判斷在什么場(chǎng)景下實(shí)現(xiàn)兼容統(tǒng)一，在哪些場(chǎng)景下凸顯各自獨(dú)特性?！焙螌毢暾f(shuō)。

　　在通用性與專用性之間，應(yīng)如何選擇超智融合的技術(shù)路線？與會(huì)專家學(xué)者普遍認(rèn)為，應(yīng)保持一定通用性。尤其在技術(shù)和方法論持續(xù)發(fā)展的背景下，應(yīng)保持芯片、系統(tǒng)與軟件的普適性，為研究提供廣闊空間，深化底層理論與方法探索。

　　對(duì)此，單志廣提醒，未來(lái)一體化算力體系的構(gòu)建，要做好算力資源和業(yè)務(wù)應(yīng)用的統(tǒng)籌銜接。須避免有效應(yīng)用需求不足、缺乏網(wǎng)絡(luò)服務(wù)質(zhì)量保證、沒(méi)有成熟調(diào)度體系的普遍性算力互聯(lián)，不能脫離實(shí)際應(yīng)用需求進(jìn)行異地計(jì)算和遠(yuǎn)地計(jì)算算力設(shè)施布局，要從算力資源供給側(cè)和業(yè)務(wù)應(yīng)用需求側(cè)兩個(gè)維度進(jìn)一步深化研究。

　　未來(lái)，超智融合具體將以何種路徑演進(jìn)？錢德沛認(rèn)為，其將沿著超算支撐人工智能應(yīng)用、用人工智能技術(shù)改進(jìn)超算、超智實(shí)現(xiàn)內(nèi)生融合這三個(gè)階段清晰演進(jìn)。

　　他進(jìn)一步解釋，在第一階段，對(duì)現(xiàn)有計(jì)算機(jī)系統(tǒng)進(jìn)行改造與升級(jí)。要發(fā)展專用硬件，確?？筛咝еС趾蛨?zhí)行人工智能任務(wù)，為人工智能研究提供堅(jiān)實(shí)基礎(chǔ)設(shè)施。在第二階段，用人工智能改造傳統(tǒng)計(jì)算。一方面要用人工智能的方法求解傳統(tǒng)超算問(wèn)題，另一方面人工智能也將影響傳統(tǒng)計(jì)算機(jī)的結(jié)構(gòu)，這個(gè)趨勢(shì)會(huì)逐漸明顯。在最終階段，計(jì)算機(jī)系統(tǒng)將呈現(xiàn)內(nèi)在的智能特性。人工智能不再是一種外加能力，而將成為計(jì)算機(jī)的核心屬性和基本組成，可能計(jì)算能力或智能化水平會(huì)遠(yuǎn)超今天的超算或智算。

　　本文為澎湃號(hào)作者或機(jī)構(gòu)在澎湃新聞上傳并發(fā)布，僅代表該作者或機(jī)構(gòu)觀點(diǎn)，不代表澎湃新聞的觀點(diǎn)或立場(chǎng)，澎湃新聞僅提供信息發(fā)布平臺(tái)。申請(qǐng)澎湃號(hào)請(qǐng)用電腦訪問(wèn)。