大模型企業為啥都要上火山?這場發布會給出答案
來源:轉載火山引擎
改編:隨卞
4月18日,火山引擎在其舉辦的“原動力大會”上發布自研DPU等系列云產品,并推出新版機器學習平臺:支持萬卡級大模型訓練、微秒級延遲網絡,彈性計算可節省70%算力成本。基于自研DPU的GPU實例,相比上一代集群性能最高提升三倍以上。
【資料圖】
火山引擎總裁譚待透露,“國內大模型領域的數十家企業,超過七成已經在火山引擎云上”。
大模型企業為什么會選擇火山引擎?讓我們看看這場發布會都釋放了哪些信息。
敏捷迭代的三個關鍵
在數字化世界里,快速開發、快速迭代是不變的關鍵。企業要做到這一點,堅定上云、用好分布式云、做好云上創新是三個關鍵步驟。
火山引擎總裁譚待
火山引擎總裁譚待表示,要堅定企業上云的決心,就要做好云的彈性與性價比。在這方面,火山引擎具備三大優勢:
1.資源復用,復用字節跳動過億核CPU資源池、數十EB的企業存儲,實現更極致的彈性和性價比;
2.全面云原生化,基于云原生實現了超大規模存儲池化,幫助客戶進一步用好云的彈性,提升資源利用率;
3.堅持全棧自研,為上層應用帶來更高資源利用率。
為助力企業堅定上云,火山引擎打造了全棧自研核心組件之一的火山引擎DPU,采取了從硬件到軟件的全棧自主研發理念,并基于DPU實現了新一代RDMA網絡,以及軟硬一體的Hypervisor層,網絡性能高達5000萬pps轉發能力、延遲低至20μs。
基于火山引擎DPU的各類計算實例性能也有顯著提升,適用于大模型分布式并行訓練場景的GPU實例,相較上一代實例集群性能最高提升3倍以上;新一代CPU實例,小規格實例性能最高提升6倍以上;同時,火山引擎全新發布的SPOT實例,相比按量付費實例價格最高節省80%,能有效降低企業云服務器使用成本。
晶泰科技聯合創始人兼CEO馬健
云計算帶來的敏捷和彈性在快速改變各行各業的迭代速度。晶泰科技通過人工智能和機器人技術,致力于實現生物醫藥、生命科學和新材料產業的數字化和智能化革新。晶泰科技聯合創始人兼CEO馬健表示,火山引擎與晶泰科技聯手從“算力”和“算法”雙維進行優化,形成應對不同特點業務的差異化策略,共同應對AI藥物研發中不同階段不同環節的差異化需求。如何幫助企業用好分布式云?當前,云計算發展百花齊放,但在中心側多公共云、混合云、本地服務器共存的異構基礎設施體系將長期存在,在邊緣側連接與計算將無處不在。
為應對多云、混合云、邊緣云場景的分布式云原生管理的挑戰,火山引擎發布了分布式云原生平臺,提供多云集群統一管理與運維、應用跨集群分發、統一流量管控等能力,為用戶打造無處不在的云原生一致體驗;發布多云CDN管理平臺,幫助客戶用好CDN,提升CDN管理效率并降低支出成本;發布輕量級的全棧多云安全平臺,提供SaaS化多云安全管理服務,解決客戶多云環境下護網、合規、數據泄露等痛點場景;發布混合云veStack,具備高性能和敏捷性,并采用與火山引擎公有云完全同源的架構,可以實現資源靈活調度。
近期,多模態大模型的興起、AI對不同垂直行業的推動、垂直領域的模型創新,都在推動企業進行云上智能創新。譚待表示,火山引擎全力支持大模型發展,不讓任何創新因為算力不足而夭折。在多云多模型的時代服務好模型企業和應用企業,是火山引擎的關鍵使命。
因此,火山引擎發布智能推薦-高速訓練引擎,將模型的訓練推理效率進行極致優化,幫助企業實現降本增效,提高模型實時性,保障服務穩定性;升級機器學習平臺,正式發布實驗管理-模型效果對比和彈性實例,全力支持大模型,超大規模并行,讓機器學習更穩更快。
在大會現場,三位嘉賓各自分享了多云多模型時代,大模型訓練和應用的心得。
MiniMax聯合創始人楊斌
MiniMax是目前國內少數已經推出自研大模型產品的AI技術公司,擁有文本、視覺、聲音三種通用大模型引擎能力。據MiniMax聯合創始人楊斌介紹,MiniMax與火山引擎合作建立了超大規模實驗平臺,實現千卡級常態化訓練;超大規模推理平臺有萬卡級算力池,支撐單日過億次調用。在火山引擎的云上,MiniMax大模型業務實現快速突破。
字節跳動副總裁楊震原
“數字化時代,機器學習可以智能、高效地圍繞目標解決問題。數字化的下一步是智能化,我們在機器學習方面的技術積累和經驗,都會通過火山引擎提供給外部客戶,幫助更多企業做好智能化”。
字節跳動副總裁楊震原表示,業務創新需要試錯,試錯要大膽、敏捷,但試錯也一定要控制成本。通過潮汐、混部等方式,火山引擎實現資源的高利用率和極低成本。
毫末智行CEO顧維灝
毫末智行與火山引擎聯合打造了中國自動駕駛行業最大智算中心MANA OASIS雪湖·綠洲,毫末智行4月發布的行業首個自動駕駛生成式大模型DriveGPT雪湖·海若,是由MANA OASIS雪湖·綠洲提供算力支持。毫末智行CEO顧維灝介紹,DriveGPT雪湖·綠洲基于量產車4000萬公里的駕駛數據進行訓練,參數規模達1200億,可持續對自動駕駛認知決策模型進行持續優化,最終實現端到端自動駕駛。火山引擎攜手毫末智行,共同沖刺自動駕駛3.0時代。
數據驅動的價值與體系
權威報告顯示,到2025年全球數據總量將會達175ZB。但在海量的數據中,只有活的數據、用起來的數據才是有價值的數據。因此,火山引擎正式提出了數據飛輪體系。
譚待表示,數據飛輪的建設,一定要以數據消費為核心,通過數據消費驅動業務應用,建立數據應用的閉環;通過數據消費驅動數據建設,有的放矢的建立數據平臺。圍繞數據飛輪,火山引擎提供了一系列產品解決方案,在大會上也發布了三款產品。
數據平臺層,火山引擎升級云原生湖倉產品LAS,提供Serverless全托管大數據分析服務,性能深度優化,提供行列權限以及動態數據脫敏、透明數據加密等安全能力;實時計算層面,發布Serverless版Flink計算服務,實現在離線業務混部,滿足流批一體等多種計算模態;數據應用層面,發布管理駕駛艙Plus,0代碼搭建管理駕駛艙系統,管理者可以實時觀測戰略目標達成情況并向下傳遞決策動作,多端覆蓋,隨時隨地洞察數據,輔助決策。
平安銀行行長特別助理蔡新發
金融行業一直重視對數據價值的深入挖掘。去年以來,平安銀行提出了打造“智能化銀行3.0”,持續推動轉型進階。平安銀行行長特別助理蔡新發表示,平安銀行與火山引擎圍繞數據、算法、運營等多個領域已經進行了深入的合作,以實現智能化3.0的系統落地。通過火山引擎增長咨詢服務,構建了基于北極星指標的數據指標體系;在數據治理方面溝通合作,明確了數據基建的工作方向;通過火山引擎個性化推薦平臺和A/B測試平臺,實現“人、貨、場”的精準匹配,實現數據驅動決策,促進策略的持續迭代。
體驗創新的兩個場景
隨著5G技術的不斷推廣,視頻化體驗的滲透率進一步加深,并成為企業優化用戶體驗中必不可少的組成部分。視頻體驗的優化有三個關鍵的方向:更高清、更互動、更沉浸。去年最大的視頻盛宴莫過于世界杯,在抖音世界杯直播中,火山引擎支持了累計106億人次的直播觀看,決賽直播觀看人數更是高達2.3億。
更高清方面,火山引擎通過自研BVC編碼器與智能編碼方式,大幅提升直播畫質;
更互動方面,火山引擎通過RTC開拓了邊看邊聊互動模式,通過SFU+MCU融合方案,同時兼顧好了用戶規模和互動體驗;
更沉浸方面,火山引擎支持了PICO的VR直播,基于全真超清顯示技術,讓觀影清晰度提升50%。
在大會中,火山引擎帶來6款音視頻方向的新產品和相關升級。火山引擎云游戲產品,提供面向云游戲渲染、試玩和互動的一站式服務;創意互動Vlog,提供全新高精度拍攝和自動成片技術,同時支持一鍵分發到抖音;升級AR互動營銷方案,優化AR try-on和AR互動能力,打通抖音廣告和電商,幫助企業更好開展整合營銷;WTN(WebRTC傳輸網絡),幫助客戶實現高清、實時的線上互動體驗;升級數字人產品,增加支持十多種“外語”,十多種方言,5-10分鐘視頻即可生成趨近于真人的數字分身;音視頻云端一體解決方案veVOS,在功能和體驗層面進行全面升級,周級別即可完成應用上線。
視頻場景外,工作場景下的員工體驗也非常重要。當下,混合辦公成為了企業辦公新常態,而字節跳動擁有大規模混合辦公的實踐經驗。面對混合辦公場景,火山引擎推出全面升級后的飛連產品,為企業提供一站式IT管理與辦公安全平臺,包含身份、網絡、終端的一站式管理,讓員工隨時隨地安全接入辦公網絡。云、網、端融合,幫助企業構建安全無縫的統一辦公網整合全套辦公安全能力,解決混合辦公中的安全隱患。
增長新生態的共建
增長三要素源于字節跳動的技術沉淀,通過火山引擎開放給外部企業,幫助更多企業獲得增長,共同構建增長新生態。
火山引擎生態副總裁趙文婕
此前,火山引擎面向SaaS伙伴推出萬有計劃,通過“SaaS+云”的方式助力客戶業務增長和提效。火山引擎生態副總裁趙文婕表示,電商產業鏈條上的商家、服務商、上下游等對數字化工具有巨大的訴求。因此,火山引擎發布生意增長一站式數字化解決方案——生意云,從客戶場景需求出發,由火山引擎自有產品與生態精選SaaS產品進行方案深度共創,火山引擎提供統一的基礎云服務。生意云將聚焦“增長”和“提效”這兩點,通過數字化解決方案來幫助商家和品牌企業解決生意經營中的問題。
抖音電商副總裁木青
近年來,抖音電商發展較快,在其背后有著火山引擎的支持。抖音電商副總裁木青表示,抖音電商是“貨找人”和“人找貨”雙鏈路的電商場景,“貨找人”能力主要基于火山引擎的大數據和算法能力打造,在抖音電商業務成長后,火山引擎也為抖音電商提供了大規模并發業務支持;在“人找貨”的場景,抖音電商成為生意云落地的最佳載體之一,基于火山引擎自有產品,雙方合作通過短視頻完成深度興趣種草,用直播實現規模化爆發,完成覆蓋用戶營銷全鏈路。
北京字節跳動公益基金會副理事長兼秘書長李濤
技術不止能夠讓商業更加高效,也能創造更多的社會價值。北京字節跳動公益基金會副理事長兼秘書長李濤表示,火山引擎自成立起,就將“連接善意,共創美好”這一公益理念根植并延展于對外合作和服務中。火山引擎萬有計劃與字節公益對接,與電子發票領域的公司聯合共創,正式推出公益版的電子票據服務與公有云服務,為符合條件的公益組織提供為期3年的免費服務,幫助公益機構以更低成本實現自動化開票,提升開票效率,實現公益組織捐款的數字化管理以及用途追溯管理,幫助公益組織提升數字化水平,同時讓捐贈人有更好的捐贈體驗。
當城市重回車水馬龍,當新技術帶來的效率革新近在眼前,如何增長就成為企業關注的重點。敏捷迭代、數據驅動、體驗創新,火山引擎愿意用這些能力,助力越來越多的企業釋放自身的數字化原力,重新回到增長的主航道。
標簽: