云天勵飛董事長:打造中國版TPU
深圳灣科技生態(tài)園中,AI弄潮者從四方匯聚。
在這片中國科技產(chǎn)業(yè)密度最高的區(qū)域之一,21世紀經(jīng)濟報道記者再次見到了云天勵飛董事長陳寧。長達1個半小時的深度交流中,陳寧侃侃而談關(guān)于AI的一切。
(云天勵飛董事長陳寧)
五年前,記者與陳寧的專訪,正值中國AI創(chuàng)業(yè)最為喧鬧的階段。新銳企業(yè)群雄并起,算法、場景與資本交織,云天勵飛也剛剛踏上上市之路。五年過去,陳寧依舊精神飽滿,而云天勵飛的坐標,已經(jīng)從AI解決方案,轉(zhuǎn)向更底層、也更具長期價值的AI推理芯片賽道。
這五年,人工智能的邊界被不斷推開。大模型走出實驗室,開始進入手機、電腦和日常生活場景;算力從幕后走向臺前,成為產(chǎn)業(yè)競爭的核心要素;國產(chǎn)AI芯片,也被推至聚光燈下,成為資本、產(chǎn)業(yè)與政策共同關(guān)注的焦點,訓練和推理市場都如火如荼。這是一個罕見的歷史窗口期,而陳寧看中的“AI推理芯片時代”,正在形成市場共識。
市場上并非沒有質(zhì)疑之聲。有觀點認為,當下AI投入正在積聚泡沫。對此,陳寧有不同的看法:“AI就像蒸汽機剛出現(xiàn)的時候。站在一個村莊的視角,可能會覺得這是泡沫,但站在歷史的角度看,這是一個時代的起點。AI一定會經(jīng)歷泡沫和調(diào)整,但方向本身不會錯!
陳寧坦言,真正重要的是,站在正確的長期方向上。AI遠遠沒有到天花板,遠遠沒有進入收斂的階段,或者說現(xiàn)在涌現(xiàn)的只是大語言模型,還有多模態(tài)模型、世界模型,機器人模型往何處發(fā)展尚且未知,這些領(lǐng)域都在持續(xù)發(fā)展。
訓練時代,英偉達當之無愧的王者,也是標準制定者。但在推理時代,陳寧認為,“所有人都站在同一條新的起跑線上。誰能在成本、效率和系統(tǒng)能力上建立優(yōu)勢,誰就有機會。”
當前,推理已經(jīng)進入到算力的中心舞臺,毫無疑問,接下來AI賽場將構(gòu)建起更加繁榮的推理芯片和應用生態(tài)。在未來的硬件架構(gòu)中,可能有更多異構(gòu)組合,有專門用來做通用計算CPU、有專門做訓練的GPU、也有專門做推理的推理芯片。
陳寧表示,也許再過15年到2040年的時候,深圳每個市民都會有三臺機器人,家里一臺服務機器人,一臺在辦公場所工作,出行有著無人駕駛汽車或者提供經(jīng)濟的旅程。而他最希望的是,每一臺機器人上面都印著powered by Intellifusion。
AI新時代的帷幕已經(jīng)拉開,格局未定。在這場圍繞算力、架構(gòu)與成本的長期競賽中,芯片廠商們,正在不斷加速。
與AI的三個周期同行
《21世紀》:相較于2020年,如今推進芯片研發(fā)是否面臨不同的契機與考量?
陳寧:事實上,我們始終在堅持做芯片。我在美國工作了十年,一直專注于芯片領(lǐng)域。2014年回國創(chuàng)業(yè)時,我們回國申報的第一個項目就是關(guān)于神經(jīng)網(wǎng)絡(luò)處理器(NPU)的研究,這本就是回國創(chuàng)業(yè)的初心。
深圳這座城市非常務實,不講太多高大上的概念,而是強調(diào)解決實際問題。這種環(huán)境催生了許多以產(chǎn)品為導向的企業(yè)。對企業(yè)而言,要生存并穿越周期,就必須等到人工智能真正迎來爆發(fā)。因此,我們不僅要做芯片,更重要的是,通過端到端的應用閉環(huán)來驗證芯片的實際價值。
我們的第一代芯片至今仍在龍崗區(qū)政府部門穩(wěn)定運行。為了有效驗證芯片性能,我們需要高質(zhì)量的前端數(shù)據(jù),在芯片上實際部署并測試算法的準確率。在這個過程中,我們逐步構(gòu)建起覆蓋應用、算法與芯片的全棧能力,打通了從芯片、算法到上層應用的完整鏈條。
《21世紀》:今天的云天勵飛是否全面投入AI芯片領(lǐng)域?
陳寧:回過頭看,我們的戰(zhàn)略方向其實始終未變,但市場策略一直在與時俱進,并經(jīng)歷了三個發(fā)展周期。這三個周期,恰好也對應了全球人工智能行業(yè)的發(fā)展階段,尤其是中國人工智能落地應用的演進路徑。
第一個周期是從2012年AlexNet(一種深度卷積神經(jīng)網(wǎng)絡(luò))出現(xiàn)到2020年,這一階段可稱為智能感知時代。當時主流模型規(guī)模較小,核心任務是解決以計算機視覺為主的智能分析問題。在中國,我們主要聚焦于安防、互聯(lián)網(wǎng)等領(lǐng)域的智能感知應用。
第二個周期從2020年持續(xù)到2024年,以自然語言處理和語義理解的重大突破為標志,特別是2022年之后,以ChatGPT為代表的大模型迅速崛起,推動行業(yè)進入“大模型時代”。
隨著大模型的爆發(fā),對算力的需求激增,尤其是英偉達的高性能計算芯片成為焦點,由此開啟了第三個周期,即算力驅(qū)動階段。可以說,直到真正進入這一階段,我們才迎來了屬于自己的“春天”和爆發(fā)期。
不過需要強調(diào)的是,盡管這一輪算力熱潮自2020年前后便已初現(xiàn)端倪,但我們并未盲目追隨GPU路線,尤其沒有貿(mào)然切入訓練芯片的賽道。我們始終立足自身技術(shù)積累和產(chǎn)業(yè)定位,堅持走符合自身發(fā)展節(jié)奏的道路。
《21世紀》:怎么看中美在AI和芯片發(fā)展路徑上的差異?
陳寧:美國的發(fā)展模式更偏向“從0到1”的原始創(chuàng)新,以理論驅(qū)動為主;而中國則更多是應用驅(qū)動,強調(diào)將技術(shù)真正落地到產(chǎn)業(yè)場景中。以互聯(lián)網(wǎng)為例,許多底層技術(shù)雖由美國首創(chuàng),但移動互聯(lián)網(wǎng)在中國的發(fā)展速度和應用規(guī)模絲毫不遜色,甚至在某些方面更具活力。
人工智能領(lǐng)域亦是如此。中國的強項并非最早提出基礎(chǔ)理論,而在于將已有技術(shù)快速轉(zhuǎn)化為規(guī);、可落地的應用。正因如此,我認為中國不應只聚焦于訓練芯片,更應重視推理芯片的巨大機會。
從國家政策來看,《關(guān)于深入實施“人工智能+”行動的意見》明確提出:到2027年,新一代智能終端、智能體等應用普及率超70%,智能經(jīng)濟核心產(chǎn)業(yè)規(guī)?焖僭鲩L;到2030年,新一代智能終端、智能體等應用普及率超90%。
這是全球首個由國家層面如此明確、系統(tǒng)地推動人工智能規(guī);涞氐膽(zhàn)略。在我看來,中國的大模型發(fā)展已取得顯著進展,我們或許不是做出最強模型的國家,但只要能與領(lǐng)先者的差距縮短至幾個月之內(nèi),就足以支撐生產(chǎn)力的變革。
因此,中國的策略很清晰,既然在大模型上已基本追平、進入全球第一梯隊,接下來的重點就是鼓勵大規(guī)模市場化應用,加速AI在各行各業(yè)的滲透。而在這一過程中,亟需補齊的關(guān)鍵環(huán)節(jié),正是高效運行的推理芯片。
為什么是推理芯片?
《21世紀》:當前業(yè)界普遍關(guān)注訓練芯片與推理芯片,而你一直特別強調(diào)推理芯片的重要性,背后的邏輯是什么?
陳寧:我始終認為,訓練芯片的市場規(guī)模遠無法與未來推理芯片的市場潛力相比。
訓練更多屬于“從0到1”的技術(shù)創(chuàng)新階段。這就像19世紀燈泡的發(fā)明,愛迪生并非第一個做出燈泡的人,但他通過系統(tǒng)工程的方式,將燈泡與電網(wǎng)、專利體系結(jié)合,使其真正成為可大規(guī)模使用的商品,這才引發(fā)了真正的工業(yè)革命。
同理,訓練芯片是推動前沿科研和模型創(chuàng)新的重要工具。AI技術(shù)遠未觸及天花板,訓練芯片仍將持續(xù)演進。但決定一場技術(shù)能否真正轉(zhuǎn)化為產(chǎn)業(yè)革命的關(guān)鍵,并不只在于“0到1”的突破,更在于如何實現(xiàn)“1到N”的規(guī);涞亍
在AI時代,推理環(huán)節(jié)才是真正的“電動機”和“輸電網(wǎng)絡(luò)”,它把訓練好的模型部署到千行百業(yè)的實際場景中,讓AI真正成為現(xiàn)實生產(chǎn)力。
據(jù)我們判斷,到2030年,全球訓練芯片市場規(guī)?赡苓_到約1萬億美元,而推理芯片市場至少將達到4萬億美元,甚至更高。
12月24日,英偉達拿下AI推理Groq的新聞,更印證了這一判斷。Groq是一家專注于AI推理芯片研發(fā)的明星獨角獸,英偉達在AI推理能力與生態(tài)布局上的前置加碼,進一步強化了推理基礎(chǔ)設(shè)施加速演進的行業(yè)信號。
對中國而言,盡管在訓練芯片領(lǐng)域與國際領(lǐng)先水平存在差距,追趕仍是必要且緊迫的國家戰(zhàn)略任務;但從更長遠、更具戰(zhàn)略意義的角度看,中國真正的機會和主戰(zhàn)場,其實在推理芯片賽道。這里不僅市場空間更大,也更契合中國以應用驅(qū)動、產(chǎn)業(yè)落地見長的發(fā)展優(yōu)勢。
《21世紀》:目前,國內(nèi)許多芯片廠商都在布局推理方向,如何看待中國推理芯片的發(fā)展現(xiàn)狀?是否已經(jīng)邁上了一個新臺階?
陳寧:我想先提出一個行業(yè)判斷:2025年將是一個重大的轉(zhuǎn)折點。
在過去幾年,AI部署主要依賴訓練芯片或“訓推一體”的方案,即用訓練芯片來執(zhí)行推理任務。那時的核心目標是解決“有沒有”的問題,只要能把模型跑起來就行,對成本等指標并不敏感。
但進入2025年,一個顯著的變化正在發(fā)生:訓練與推理開始真正分離。訓練專注于模型的構(gòu)建與優(yōu)化,而推理則走向?qū)I(yè)化、高效化和場景化,形成獨立的技術(shù)路徑和產(chǎn)品體系。
今年我們已經(jīng)觀察到幾個關(guān)鍵現(xiàn)象:過去半年,大模型的使用已從技術(shù)圈擴展到普通大眾,身邊的老人、孩子都在用大模型,手機上普遍安裝了多個AI應用,“有事沒事問一問”正成為一種日常習慣。這種用戶行為的轉(zhuǎn)變,是在2025年才真正成型的。
這非常類似于2007年iPhone發(fā)布后,手機從功能機邁向智能機的拐點。彼時,智能手機不僅改變了設(shè)備形態(tài),更重塑了整個軟件生態(tài)和用戶生活方式。今天,AI推理的普及也正在開啟一個全新的時代:AI不再只是實驗室里的技術(shù),而是嵌入每個人生活和每個產(chǎn)業(yè)環(huán)節(jié)的基礎(chǔ)設(shè)施。
《21世紀》:在推理芯片這一賽道上,云天勵飛的差異化在哪里?
陳寧:我們最新提出的GPNPU架構(gòu),可以理解成是中國版的TPU。相較于GPGPU,GPNPU在推理效率與成本控制上,能夠?qū)崿F(xiàn)數(shù)個數(shù)量級的優(yōu)化。該架構(gòu)在一個統(tǒng)一的大架構(gòu)框架下,融合了三方面的核心優(yōu)勢:
第一,借鑒GPU在頂層架構(gòu)上的可編程性與生態(tài)兼容性。這使得客戶在遷移現(xiàn)有模型和應用時成本更低,也更易于被廣大軟件工程師接受和使用。
第二,繼承NPU在推理任務中的高能效優(yōu)勢。我們的團隊擁有近20年的芯片架構(gòu)設(shè)計經(jīng)驗,長期堅持“算法芯片化”的理念,即將對AI算法的深刻理解轉(zhuǎn)化為底層硬件的執(zhí)行級優(yōu)化,在性能、功耗與成本之間實現(xiàn)精細平衡。
第三,深度融合存算一體技術(shù)。我們認為,這是中國AI芯片實現(xiàn)差異化突破的重要機遇。在先進制程工藝受限的現(xiàn)實條件下,必須通過先進封裝與存算一體等創(chuàng)新路徑,構(gòu)建自主可控的技術(shù)體系。
歸根結(jié)底,芯片設(shè)計并非簡單的公式套用,而是一門藝術(shù),它是在性能、功耗、面積與成本之間不斷權(quán)衡與優(yōu)化的過程。gpnpu比gpgpu在推理效率和成本實現(xiàn)幾個數(shù)量級的優(yōu)化
《21世紀》:基于GPNPU架構(gòu)的Nova500芯片現(xiàn)在進展如何?是在研發(fā)階段,還是已經(jīng)流片?
陳寧:基于Nova500的芯片預計將在明年流片。我們對這款芯片有比較大的期待,希望通過全新架構(gòu),在推理賽道上性能對標全球頭部企業(yè),價格還能有一定優(yōu)勢。
《21世紀》:目前云天勵飛的芯片訂單需求主要來自哪些領(lǐng)域?
陳寧:從客戶結(jié)構(gòu)來看,目前需求最明確的是來自互聯(lián)網(wǎng)頭部大廠。第二梯隊包括三大通信運營商以及部分中大型互聯(lián)網(wǎng)企業(yè)。
第三類客戶是AI領(lǐng)域的創(chuàng)業(yè)公司,涵蓋專注于大模型研發(fā)和AI應用整合的企業(yè)。這類公司創(chuàng)新節(jié)奏快,產(chǎn)品迭代迅速,有些甚至在短短半年內(nèi)就能推出一款市場爆款,因此對推理芯片的需求增長明顯。
《21世紀》:會不會出現(xiàn)和某一家互聯(lián)網(wǎng)大廠合作特別緊密的情況?
陳寧:互聯(lián)網(wǎng)大廠都會有多家供應商的策略,一方面是供應鏈安全,另一方面是產(chǎn)品線需求不同。
但可以確定的是,互聯(lián)網(wǎng)大廠是推理芯片的終極目標客戶。它們每年的采購額都是上千億,只要做到第三、第四供應商,都是幾十億、上百億的訂單規(guī)模。
國產(chǎn)芯片突圍、AI硬件爆發(fā)
《21世紀》:從營收結(jié)構(gòu)來看,云天勵飛未來會不會更多轉(zhuǎn)向芯片?
陳寧:我們的營收結(jié)構(gòu)變化,其實和AI行業(yè)的發(fā)展階段是完全匹配的。
早期是以行業(yè)解決方案為主;到了大模型階段,開始出現(xiàn)標品和服務;接下來,推理算力市場會爆發(fā),推理芯片的出貨量會迎來增長拐點。
《21世紀》:在研發(fā)投入加大的情況下,盈利壓力怎么平衡?
陳寧:作為一家企業(yè),我們不能盲目投入,而必須確保每一分研發(fā)資源都精準投向行業(yè)即將爆發(fā)的關(guān)鍵節(jié)點,并以此構(gòu)建自身的核心競爭力。
首先,在GPNPU架構(gòu)的演進中,我們重點加強與主流生態(tài)的兼容性擴展,這是市場準入的必經(jīng)之路,無法繞開。因此,我們在提升架構(gòu)靈活性方面進行了較大投入,以降低客戶遷移成本并加速落地。
其次,在NPU架構(gòu)優(yōu)化方面,得益于團隊近20年的持續(xù)積累,我們已建立起技術(shù)護城河。
最后,面向未來大算力需求,我們聚焦于3D堆疊與存算一體等技術(shù),這將是突破先進制程限制的關(guān)鍵路徑。
《21世紀》:在推理芯片研發(fā)和市場推進過程中,最大的挑戰(zhàn)是什么?
陳寧:挑戰(zhàn)是多方面的。首先是硬件本身的復雜性。芯片從設(shè)計、流片到量產(chǎn)是一個高投入、長周期的過程。
其次是軟件生態(tài)的構(gòu)建。要充分發(fā)揮硬件性能,必須投入大量資源打造完整的軟件棧。
第三是AI技術(shù)本身的快速演進。大模型架構(gòu)、計算范式乃至應用場景都在持續(xù)變化,而芯片的設(shè)計和制造周期通常長達一到兩年。這就要求芯片架構(gòu)必須具備足夠的前瞻性與靈活性,既能適配當前主流需求,又能應對未來可能的技術(shù)路徑變遷。
《21世紀》:如何看待半導體市場的并購趨勢?
陳寧:我認為,并購活動將越來越多,根本原因在于,AI應用和AI推理這兩大生態(tài)正在快速崛起,催生出大量新機會。我們自身也在積極布局,正在籌備多支產(chǎn)業(yè)基金,包括風險投資基金和并購基金。這種布局正是基于對賽道潛力的判斷,當一個領(lǐng)域的市場規(guī)模從“小而散”走向“大而活”,資本和產(chǎn)業(yè)資源就會加速流動。
《21世紀》:如何看待廣東省集成電路的發(fā)展情況?
陳寧:廣東省對集成電路產(chǎn)業(yè)高度重視,廣州、深圳、珠海等城市都在積極布局。尤其值得一提的是,全省明確提出應用場景開放驅(qū)動AI與集成電路產(chǎn)業(yè)發(fā)展的戰(zhàn)略思路,這在全國具有前瞻性。
客觀來看,中國集成電路整體仍處于追趕全球先進水平的階段,尤其在制造環(huán)節(jié)仍面臨“卡脖子”挑戰(zhàn)。但廣東具備獨特的差異化優(yōu)勢,粵港澳大灣區(qū)被英偉達CEO黃仁勛稱為“全球唯一一個AI與機電一體化深度融合的區(qū)域”。這一判斷精準點出了廣東的核心競爭力:這里不僅是AI算法和軟件的試驗場,更是AI原生硬件的策源地。
依托龐大的終端市場,廣東已形成涵蓋“端、邊、云”等多元場景的完整應用生態(tài)。這種以實際應用為牽引的模式,有效拉動芯片的強勁需求。
在此基礎(chǔ)上,廣東一方面大力推動AI智能硬件產(chǎn)業(yè)集群的發(fā)展,另一方面又通過這些硬件產(chǎn)品所產(chǎn)生的真實市場需求,反向精準帶動上游產(chǎn)業(yè)鏈,包括芯片設(shè)計、制造工藝、EDA工具等環(huán)節(jié)的協(xié)同進步。
以深圳為例,其產(chǎn)業(yè)政策尤為聚焦。早在五六年前,深圳就已旗幟鮮明地提出要發(fā)展NPU芯片產(chǎn)業(yè)。正是這種長期、穩(wěn)定且前瞻的政策支持,讓我們能夠堅持十余年深耕NPU架構(gòu)研發(fā),并最終實現(xiàn)技術(shù)積累與產(chǎn)業(yè)落地的良性循環(huán)。
《21世紀》:今年AI產(chǎn)業(yè)鏈發(fā)展迅猛,涌現(xiàn)出大量AI硬件公司,其中很多都來自深圳。這是否意味著行業(yè)進入一個新的發(fā)展階段?
陳寧:為什么這么多AI硬件的“爆品”都出自深圳?根本原因在于,深圳堪稱AI產(chǎn)品經(jīng)理的搖籃。這座城市不斷孕育出新的創(chuàng)業(yè)公司,有些此前名不見經(jīng)傳,卻能迅速打開全球市場,取得亮眼成績。這背后,是深圳對市場、用戶和產(chǎn)業(yè)土壤的深刻理解。
在深圳,產(chǎn)品經(jīng)理不僅貼近草根市場,更能敏銳捕捉真實需求。對于AI領(lǐng)域而言,優(yōu)秀的產(chǎn)品經(jīng)理不僅要洞察用戶痛點,還必須清楚當前大模型的能力邊界:知道它們現(xiàn)在能做什么、不能做什么。唯有如此,才能做出務實、可落地的產(chǎn)品,而不是僅憑想象去設(shè)計功能。畢竟,現(xiàn)階段的大模型遠非萬能,許多事情它實際上還做不到。正是這種腳踏實地的產(chǎn)品思維,讓深圳在AI硬件的新階段中持續(xù)領(lǐng)跑。
SFC
0人