昇思MindSpore 2.3發(fā)布：已服務(wù)企業(yè)數(shù)量超過5500家，合作高校360所

　　新浪科技訊 3月22日晚間消息，在今日的昇思人工智能框架峰會2024上，昇思MindSpore 2.3全新發(fā)布，進(jìn)一步提升大模型開發(fā)訓(xùn)推效率。

　　華為于2020年3月開源昇思MindSpore AI框架，開源后獲得國內(nèi)外開發(fā)者的積極響應(yīng)，訪問量數(shù)千萬，超過687萬下載安裝使用，服務(wù)企業(yè)數(shù)量超過5500家，合作高校360所。2023年以來，基于昇思框架發(fā)表的會議論文數(shù)量超過1200篇，在所有AI框架中排名中國第一、全球第二。

　　華為ICT Marketing總裁周軍表示：AI框架的并行計(jì)算能力、簡潔編程能力、便捷部署能力等，逐漸成為大模型訓(xùn)練的關(guān)鍵成功要素。昇思將持續(xù)創(chuàng)新探索，聚焦根技術(shù)，以更開放的技術(shù)體系，讓伙伴和開發(fā)者更靈活的實(shí)現(xiàn)大模型創(chuàng)新，加速大模型應(yīng)用規(guī)模落地。

　　在峰會上，昇思MindSpore 2.3全新發(fā)布。據(jù)介紹，通過原創(chuàng)的多副本、多流水交織等8種并行技術(shù)，使集群線性度達(dá)到90%(業(yè)界不足60%)，通過整圖優(yōu)化及下沉執(zhí)行等，使得算力利用率達(dá)到55%(業(yè)界不足40%);針對集群故障率高，恢復(fù)時(shí)間長的普遍問題，通過編譯快照，確定性CKPT技術(shù)實(shí)現(xiàn)20分鐘完成故障恢復(fù)。

　　在大模型部署上，昇思通過訓(xùn)推一體的架構(gòu)升級實(shí)現(xiàn)腳本、分布式策略，運(yùn)行時(shí)的統(tǒng)一，Baichuan2-13B的推理部署只需1天。在大模型推理上，通過LLM Serving實(shí)現(xiàn)推理吞吐提升2倍多;升級模型壓縮工具金箍棒2.0實(shí)現(xiàn)千億大模型壓縮至十倍。

　　為降低開發(fā)門檻，昇思持續(xù)升級MindSpore TransFormers大模型套件，并提供MindSpore One生成式套件，全流程開箱即用，一周即可完成大模型全流程的開發(fā)。

　　昇思MindSpore開源社區(qū)理事長丁誠在大會上公布了昇思賦能學(xué)術(shù)與生態(tài)的四項(xiàng)行動(dòng)。昇思和中國人工智能學(xué)會、鵬城實(shí)驗(yàn)室合作的學(xué)術(shù)論文基金2.0，將在未來3年內(nèi)攜手50多家全球AI學(xué)者;昇思開發(fā)板應(yīng)用創(chuàng)新行動(dòng)，基于香橙派開發(fā)板，提供系統(tǒng)化的案例、教程與支持，幫助開發(fā)者快速打造個(gè)性化應(yīng)用;昇思加速原生大模型孵化，通過激勵(lì)、專項(xiàng)技術(shù)支持和市場聯(lián)合推廣，支持更多伙伴從昇思遷移適配走向原生開發(fā);昇思開源社區(qū)實(shí)習(xí)活動(dòng)，讓開發(fā)者實(shí)踐成長。