摩爾線程創(chuàng)始人張建中:從今年開(kāi)始,萬(wàn)卡將成為智算中心最低標(biāo)配

2024-07-04 16:13:30   來(lái)源:新浪科技   評(píng)論:0   [收藏]   [評(píng)論]
導(dǎo)讀:  新浪科技訊 7月4日上午消息,2024世界人工智能大會(huì)(WAIC 2024)期間,摩爾線程宣布AI旗艦產(chǎn)品夸娥(KUAE)智算集群解決方案實(shí)現(xiàn)升級(jí),從當(dāng)前的千卡級(jí)別擴(kuò)展至萬(wàn)卡規(guī)模。此外,摩爾線程聯(lián)合中國(guó)移動(dòng)通信集團(tuán)青
  新浪科技訊 7月4日上午消息,2024世界人工智能大會(huì)(WAIC 2024)期間,摩爾線程宣布AI旗艦產(chǎn)品夸娥(KUAE)智算集群解決方案實(shí)現(xiàn)升級(jí),從當(dāng)前的千卡級(jí)別擴(kuò)展至萬(wàn)卡規(guī)模。此外,摩爾線程聯(lián)合中國(guó)移動(dòng)通信集團(tuán)青海有限公司、中國(guó)聯(lián)通青海公司、北京德道信科集團(tuán)等公司就三個(gè)萬(wàn)卡集群項(xiàng)目進(jìn)行了戰(zhàn)略簽約,將共同構(gòu)建國(guó)產(chǎn)GPU集群。

  摩爾線程創(chuàng)始人兼CEO張建中表示:“當(dāng)前,我們正處在生成式人工智能的黃金時(shí)代,技術(shù)交織催動(dòng)智能涌現(xiàn),GPU成為加速新技術(shù)浪潮來(lái)臨的創(chuàng)新引擎。”在他看來(lái),“多元趨勢(shì)下,AI模型訓(xùn)練的主戰(zhàn)場(chǎng),萬(wàn)卡已是標(biāo)配。”

  “假設(shè)你做一個(gè)5000億參數(shù)的模型,有15TB的數(shù)據(jù),如果我們只有1000P的算力,你會(huì)發(fā)現(xiàn)三年都訓(xùn)練不完,如果說(shuō)一個(gè)模型三年都訓(xùn)練不完,你是肯定無(wú)法參加大模型的比賽了,也就是說(shuō)1000P根本不夠用,如果說(shuō)我們把時(shí)間鎖到一兩周,或者最遲一個(gè)月,1萬(wàn)P是最低保障,所以萬(wàn)卡集群是最低配置,我稱之為標(biāo)配。”張建中表示。在他看來(lái),“萬(wàn)卡以上的智算中心才有價(jià)值,從今年開(kāi)始,所有的智算中心肯定是,萬(wàn)卡是最低標(biāo)配。”

  據(jù)悉,夸娥是摩爾線程智算中心全棧解決方案,包括以夸娥計(jì)算集群為核心的基礎(chǔ)設(shè)施、夸娥集群管理平臺(tái)(KUAE Platform)以及夸娥大模型服務(wù)平臺(tái)(KUAE ModelStudio),旨在以一體化交付的方式解決大規(guī)模GPU算力的建設(shè)和運(yùn)營(yíng)管理問(wèn)題。

  此次升級(jí),摩爾線程夸娥智算集群此次升級(jí)實(shí)現(xiàn)了從千卡至萬(wàn)卡集群的無(wú)縫擴(kuò)展,能夠滿足大模型時(shí)代對(duì)于算力“規(guī)模夠大+計(jì)算通用+生態(tài)兼容”的核心需求,旨在打造能夠承載萬(wàn)卡規(guī)模、具備萬(wàn)P級(jí)浮點(diǎn)運(yùn)算能力的國(guó)產(chǎn)通用加速計(jì)算平臺(tái),專為萬(wàn)億參數(shù)級(jí)別的復(fù)雜大模型訓(xùn)練而設(shè)計(jì)。

分享到:
責(zé)任編輯:zsz

網(wǎng)友評(píng)論