“產業應用會驅動底層技術的創新，在大模型出現之前，AI的發展本身就推動了很多底層技術，比如HBM高帶寬的存儲技術，算力從傳統計算到AI計算產生。大模型相比于之前的AI計算，它對算力、存儲、帶寬的需求又往上提升了比較大的臺階。我們認為它會催生更多的底層技術的創新，包括硬件、軟件等?！?月6日，曦智科技創始人兼CEO沈亦晨在2023世界人工智能大會芯片主題論壇發言稱。

ChatGPT催化下，芯片領域迎來下行周期中少有的細分利好市況，帶動高算力芯片需求顯著增長。隨著ChatGPT引領的AI大模型熱潮興起，以GPU廠商英偉達為代表的芯片公司成為最大的受益者，計算資源近期被熱搶。

但這一市場現狀并不為所有人滿意，AI算力“僧多粥少”，價格昂貴且面臨技術瓶頸和地緣政治風險，產業上下游需積極尋找解決方案，但這一進度并不令人滿意。沈亦晨認為，從當前市場形勢來看，一方面英偉達獨自推進解決AI計算的存儲、帶寬、計算解決方案，在整體效果上遠超市場其他玩家。另一方面，在非英偉達生態中，存儲、帶寬、計算作為IT基礎設施的三大問題，通常由不同廠商各自解決，難以形成合力。

“如何讓多個不同廠商，不同技術能夠共享一個語言，共同遵循一個通訊協議，這樣才能夠更好地把總體算力解放出來。”沈亦晨稱。

軟件端，英偉達地技術能力依然一騎絕塵。目前，在GPU領域，英偉達占據主導地位。英偉達在GPU領域的壟斷地位主要通過CUDA平臺上的軟件生態實現。國內GPU/GPGPU創業公司的產品大多兼容CUDA，以確保用慣了英偉達產品的客戶在遷移時沒有障礙。中國GPU初創公司沐曦聯合創始人兼CTO兼首席軟件架構師楊建表示，由于英偉達在軟件端幾乎沒有對手，推動應用生態遷移將是一個循序漸進的過程，沐曦將會從小的市場嘗試切入。

沐曦作為GPU企業，深感行業在大模型火熱下的瓶頸。楊建稱，大模型對計算精度要求極高，學術界對如何用低精度實現令人滿意的推理仍有難度，“精度降低之后，成本自然就降低了，這個問題在學術界現在也沒有給出一個很好的答案?！?/p>

此外，行業普遍關注到HBM（高帶寬內存芯片）供應對GPU出貨的限制。楊建稱，目前所有大模型推理用的GPU芯片都需要HBM，“HBM很貴，差不多1GB要20美元，賣到最終用戶差不多1GB要60美元，能不能把HBM成本給下降？其實是更大的挑戰?！彼O想，全球應出現第三家HBM供應商，打破現有僅有兩家公司提供HBM芯片的格局。

GPU短缺情況下，針對大模型需求，產業上下游嘗試多種新型技術方向。曦智科技從事硅光芯片開發，后者被認為是AI計算的一大潛在技術方向。光子作為電中性粒子，相互之間可交叉行進而不會相互作用，因此可在光纖中處理同步數據信號，且不產生熱量，最終硅光芯片在處理數據時可減少耗電。沈亦晨認為，光電混合技術將是催生下一代大模型發展的底層技術之一，因為它能夠提供更高的帶寬，更低的功耗，讓更多的計算節點更有效的聯合起來，去完成更大規模的計算。

然而，該技術亦有自身難點。楊建即提及，將硅芯片的電子和光子整合為硅光芯片的過程中，如何實現不同芯片架構的異構封裝，將是一大挑戰，“光對于溫度要求是很嚴苛的，但是硅不嚴苛（105或108攝氏度），但是光需要工作在50攝氏度左右。”

“過去絕大部分應用創新都來自于軟件，現在越來越多的看到軟件跟硬件結合的創新，不管AIOT還是車網融合，硬件跟軟件會深度耦合?！逼娈惸柈a品及解決方案副總裁祝俊東稱，硬件無論是開發成本和開發周期都遠遠的跟不上應用跟軟件的發展。過去大家以功能來定義硬件，后來以算法或者需求來定義。

奇異摩爾從事Chiplet通用產品解決方案，隨著硬件變得越來越復雜，進一步推動架構和制程創新已經很不容易。而Chiplet能夠通過硬件的組合來降低硬件創新門檻。能夠更好的實現軟硬件相互之間的協同。

與CPU（中央處理器）一樣，由于對算力要求較高，GPU也需要使用最先進的工藝，處于風口當中的Chiplet技術，也是被不少業內人士視為摩爾定律放緩之后、中國半導體企業彎道超車的機會。

Chiplet即“小芯片”或“芯粒”，是芯片制造領域近年備受熱議的技術路線，通過把不同芯片的能力模塊化，利用新的設計、互聯、封裝等技術，在一個封裝的產品中使用來自不同技術、不同制程甚至不同工廠的芯片。

然而，Chiplet是系統工程，涉及到芯片設計、晶圓制造、封裝、測試等多個環節。具體到封測上，鄭力認為，整體來看，與全球領先廠商相較，大陸企業在先進封裝領域差距較小，但在先進的晶圓級封裝，全球范圍內仍由臺積電、三星和英特爾主導，這和半導體工業的整體水平有關。