發布會現場。供圖
近日,在螞蟻數科舉行的一場發布會上,中國信息通信研究院云大所副所長栗蔚指出,云原生憑借其高可用、彈性、可擴展等優勢成為突破AI困境的關鍵,云原生PaaS平臺的大模型產品工具鏈不斷完善,將加速大模型技術在行業應用中落地。
栗蔚表示,根據調研,云原生除了作用于AI之外,之前它作用于很多互聯網應用的研發,超過一半中國企業大部分互聯網化應用程序都是云原生的架構,甚至傳統的核心架構現在也都在云化。
據介紹,在AI時代,因為大模型對算力需求很大,GPT3.5的時候是1750億參數,需要500個英偉達的卡,到了GPT5是10萬億的參數,需要50萬張英偉達的卡。這種情況下,云將發揮出新的關鍵作用。
“50萬張英偉達卡計算是不可能在一個數據中心完成的,所以很多大模型計算跨域不可避免,但跨域以后對方是英偉達的卡嗎?或者智算底層基礎設施都不一定。這種情況下,我們需要什么?中間誰能把應用部署在算力上跑起來呢?”
栗蔚給出答案,她認為,就是云,AI時代幾個發展瓶頸問題基本都是要靠云原生滿足的。云原生屏蔽了底層算力的差異,其應用不在乎你底下是CPU還是GPU,還是用了什么樣的規格的卡,我只是將應用部署在上面,用你的計算能力,所以云原生發揮了這樣的作用。
“很多企業通過用了云原生,對于底下上千臺服務器進行統一的納管,從而全方位提升效率和降低成本。”栗蔚強調,云跟AI結合才能充分降低AI的工程化成本,讓AI大模型真實地跑起來變成服務。(完)
關鍵詞: