百度智能云宣布千帆大模型2.0升級發(fā)布，一天可跑通大模型效果驗證

　　9月5日上午消息，今日舉辦的2023百度云智大會上，百度智能云宣布千帆大模型平臺2.0全面升級發(fā)布，以最全的工具鏈、最佳的算力效能、最多的大模型和數(shù)據(jù)集以及企業(yè)級安全，幫助企業(yè)跨越大模型到生產(chǎn)力的鴻溝。

　　在工具鏈方面，大模型開發(fā)、訓練、部署、應用開發(fā)各個環(huán)節(jié)是緊密結合的。據(jù)介紹，千帆整套的工具鏈可以無縫銜接全生命周期的各個業(yè)務流程，最大化提升效率。以前，技術團隊一個月才能調(diào)試、跑通看到大模型的效果，在千帆一站式工具鏈平臺，當天就可以實現(xiàn)。

　　在算力效能方面，千帆底層是一套集合了異構算力集群、高速互聯(lián)的網(wǎng)絡、高性能存儲，能夠支撐萬卡規(guī)模訓練的AI算力基礎設施，可將大模型訓練、推理的成本降到最低。

　　在數(shù)據(jù)方面，千帆不僅納管大模型，還可增強大模型的能力。本次全新升級中文增強，可大幅提升大模型中文理解和生成能力，例如LIama2的國外大模型，也可實現(xiàn)中文對話好的效果。同時還全面提升訓練和推理性能，訓練LlaMA 2的總體吞吐可以提升1/4，推理甚至能提升3倍。

　　此外，在企業(yè)級安全方面，通過千帆的安全機制，企業(yè)能夠構建四層安全防線，全方位保障大模型的內(nèi)容安全、數(shù)據(jù)安全和系統(tǒng)安全。對合規(guī)要求很高的客戶，千帆支持國內(nèi)、國外主流芯片和操作系統(tǒng)，也支持私有化部署，確保每個企業(yè)自己的大模型都自主可控。