百度沈抖:百舸4.0升級(jí)發(fā)布,模型訓(xùn)練有效時(shí)長(zhǎng)達(dá)99.5%
導(dǎo)讀: 新浪科技訊 9月25日上午消息,今日舉辦的2024百度云智大會(huì)上,百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖宣布百度百舸AI異構(gòu)計(jì)算平臺(tái)4 0升級(jí)發(fā)布,支持多芯混訓(xùn)、多芯適配,在萬(wàn)卡集群上實(shí)現(xiàn)了超過(guò)99 5
新浪科技訊 9月25日上午消息,今日舉辦的2024百度云智大會(huì)上,百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖宣布百度百舸AI異構(gòu)計(jì)算平臺(tái)4.0升級(jí)發(fā)布,支持多芯混訓(xùn)、多芯適配,在萬(wàn)卡集群上實(shí)現(xiàn)了超過(guò)99.5%的有效訓(xùn)練時(shí)長(zhǎng)。
在算力緊缺的當(dāng)下,效率的提升將能夠幫助企業(yè)有效提升算力使用率,進(jìn)而降低成本。據(jù)介紹,為解決算力資源短缺的問(wèn)題,百舸4.0對(duì)“多芯混訓(xùn)”能力進(jìn)行了重點(diǎn)升級(jí),實(shí)現(xiàn)了在萬(wàn)卡規(guī)模集群上95%的多芯混合訓(xùn)練效能,達(dá)到業(yè)務(wù)最領(lǐng)先水平。
在集群部署環(huán)節(jié),升級(jí)后的百舸能夠?qū)崿F(xiàn)工具層面的秒級(jí)部署,將萬(wàn)卡集群運(yùn)行準(zhǔn)備時(shí)間從數(shù)周最快縮減至1小時(shí),極大地提升部署效率,縮短業(yè)務(wù)上線周期。
針對(duì)大模型訓(xùn)練過(guò)程中故障頻發(fā)的問(wèn)題,百舸4.0全面升級(jí)了故障檢測(cè)手段和自動(dòng)容錯(cuò)機(jī)制,可以有效降低故障發(fā)生頻次,大幅減少集群故障處置時(shí)間,在萬(wàn)卡集群上實(shí)現(xiàn)了超過(guò)99.5%的有效訓(xùn)練時(shí)長(zhǎng)。
在模型推理上,最重要的是速度和成本,F(xiàn)在長(zhǎng)文本推理逐漸成為主流,百舸4.0整體上做到了推理速度和成本優(yōu)化,長(zhǎng)文本推理效率提升了1倍以上。
責(zé)任編輯:zsz
網(wǎng)友評(píng)論
智能應(yīng)用排行
- 網(wǎng)易 UU 加速器完成鴻蒙原生應(yīng)用開發(fā),上線 HarmonyOS
- 蘋果官方認(rèn)可“越獄”術(shù)語(yǔ):特殊版iPhone罕見(jiàn)現(xiàn)身 用于查找
- 京東11.11再次發(fā)力數(shù)字人:成本更低、直播流量?jī)A斜,成電商
- 釘釘公布數(shù)據(jù):用戶數(shù)7億 軟件付費(fèi)企業(yè)數(shù)12萬(wàn)
- AI大模型讓智慧交通“更聰明” 海信亮相2024世界人工智能大
- 沃爾瑪?shù)娜斯ぶ悄芰闶鄣暌严蚬婇_放
- 歐瑞博攜手南方科技大學(xué)打造智能新能源住宅技術(shù)聯(lián)合實(shí)驗(yàn)室
- 都是科技的狠活?2024中國(guó)國(guó)際消費(fèi)電子博覽會(huì)即將全新亮相
- 百度:智能云業(yè)務(wù)Q1營(yíng)收47億元,生成式AI貢獻(xiàn)比例達(dá)6.9%
延伸閱讀
- 一段視頻 帶你看一場(chǎng)跨越百年的AI
- 海爾“歐洲版”智慧家庭IFA GPC亮相
- 沃爾瑪?shù)娜斯ぶ悄芰闶鄣暌严蚬婇_放
- 現(xiàn)場(chǎng)直擊今年最大科技盛會(huì),AIoT獨(dú)角獸涂鴉智能又有哪些發(fā)布
- 日本推出世界首個(gè)“虛擬警備員” 真人大小、AI加持
- 助力智能產(chǎn)品出海 涂鴉云成幕后真正大腦
- 海爾發(fā)布首個(gè)智能學(xué)校解決方案 引領(lǐng)物聯(lián)網(wǎng)時(shí)代教育信息化改
- 涂鴉“Thoth”:掌控?cái)?shù)百設(shè)備的“超級(jí)隊(duì)長(zhǎng)”,打擊偽智能
- 涂鴉“Aladdin”:讓APP定制像搭積木一樣簡(jiǎn)單
- 韓國(guó)5G用戶達(dá)到26萬(wàn) 5G基站的數(shù)量達(dá)54202個(gè)
最新智能應(yīng)用
- 京東11.11再次發(fā)力數(shù)字人:成本更低、直播流量?jī)A
- 歐瑞博攜手南方科技大學(xué)打造智能新能源住宅技術(shù)聯(lián)
- 網(wǎng)易 UU 加速器完成鴻蒙原生應(yīng)用開發(fā),上線 H
- 都是科技的狠活?2024中國(guó)國(guó)際消費(fèi)電子博覽會(huì)即將
- 百度沈抖:百舸4.0升級(jí)發(fā)布,模型訓(xùn)練有效時(shí)長(zhǎng)達(dá)
- 華為云發(fā)布AI原生云基礎(chǔ)設(shè)施架構(gòu)CloudMatrix,新
- 阿里CEO吳泳銘:AI算力需求滲透率已超50%,正主導(dǎo)
- 羅技發(fā)布 G PRO 2 LIGHTSPEED(GPW4 朱雀)
- 華為:將啟動(dòng)“鴻蒙生態(tài)伙伴及開發(fā)者見(jiàn)非凡體驗(yàn)計(jì)
- 華為運(yùn)動(dòng)健康發(fā)布玄璣感知系統(tǒng) 華為手表或?qū)⒅С?/a>