男男调教跪撅扒开晾臀当众,YIN荡的富豪性奴俱乐部,午夜在线观看免费观看大全,手机在线的A站免费观看

算力管理復雜、訓練成本過高,專家談AI困境如何破解-世界今頭條

2024-06-30 10:54:10
來源:中國新聞網

中新網6月29日電(中新財經記者 吳濤)“大模型的高速發展使得AI不得不面臨算力管理復雜、訓練推理成本高、任務調度難等多方面發展瓶頸。”

發布會現場。供圖

近日,在螞蟻數科舉行的一場發布會上,中國信息通信研究院云大所副所長栗蔚指出,云原生憑借其高可用、彈性、可擴展等優勢成為突破AI困境的關鍵,云原生PaaS平臺的大模型產品工具鏈不斷完善,將加速大模型技術在行業應用中落地。

栗蔚表示,根據調研,云原生除了作用于AI之外,之前它作用于很多互聯網應用的研發,超過一半中國企業大部分互聯網化應用程序都是云原生的架構,甚至傳統的核心架構現在也都在云化。

據介紹,在AI時代,因為大模型對算力需求很大,GPT3.5的時候是1750億參數,需要500個英偉達的卡,到了GPT5是10萬億的參數,需要50萬張英偉達的卡。這種情況下,云將發揮出新的關鍵作用。

“50萬張英偉達卡計算是不可能在一個數據中心完成的,所以很多大模型計算跨域不可避免,但跨域以后對方是英偉達的卡嗎?或者智算底層基礎設施都不一定。這種情況下,我們需要什么?中間誰能把應用部署在算力上跑起來呢?”

栗蔚給出答案,她認為,就是云,AI時代幾個發展瓶頸問題基本都是要靠云原生滿足的。云原生屏蔽了底層算力的差異,其應用不在乎你底下是CPU還是GPU,還是用了什么樣的規格的卡,我只是將應用部署在上面,用你的計算能力,所以云原生發揮了這樣的作用。

“很多企業通過用了云原生,對于底下上千臺服務器進行統一的納管,從而全方位提升效率和降低成本。”栗蔚強調,云跟AI結合才能充分降低AI的工程化成本,讓AI大模型真實地跑起來變成服務。(完)

關鍵詞:

[責任編輯:]

為您推薦

時評

內容舉報聯系郵箱:58 55 97 3 @qq.com

滬ICP備2022005074號-27 營業執照公示信息

Copyright © 2010-2020  看點時報 版權所有,未經許可不得轉載使用,違者必究。

<蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <文本链> <文本链> <文本链> <文本链> <文本链> <文本链>