百度沈抖宣布“云智一體”戰略內涵全面升級
10月17日消息,在百度世界2023上,百度集團執行副總裁、百度智能云事業群總裁沈抖宣布,“云智一體”的戰略內涵全面升級為:云智一體,深入產業,生態繁榮,AI普惠。沈抖表示,人工智能與云計算的深度結合是企業快速落地AI原生應用的關鍵,這也是百度智能云始終倡導和踐行的“云智一體”理念。目前,百度集團所有應用和服務全部基于”云智一體“技術架構運行在百度智能云上。
同時,面向企業落地大模型的五類需求,百度智能云基于千帆大模型平臺打造的“大模型超級工廠”分別給出了最佳服務方案。
圖注:百度集團執行副總裁、百度智能云事業群總裁沈抖
(圖源鞭牛士)
首先,針對只有算力需求的客戶,千帆平臺可以提供極致高效和性價比的異構算力服務。在客戶最關心的大模型訓練環節,通過分布式并行訓練策略和微秒級互聯能力,千帆平臺可以實現萬卡規模集群訓練的加速比達到95%;通過事先防范、事中及時發現、定位、解決,最大限度避免集群因故障等原因產生的無效運轉,提高有效訓練時間占比,萬卡集群有效訓練時間占比達到96%,充分釋放集群有效算力,大幅降低客戶算力與時間成本。
此外,千帆平臺還兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片,支持客戶以最小的切換成本完成算力適配。
面壁智能攜手知乎,基于百度智能云提供的AI算力集群,訓練出“知海圖AI”大模型和多模態大模型Luca,在千卡集群上的有效訓練時間占比高達99%,在保障模型訓練連續性的同時,可以實現模型訓練效果的高效收斂。此外,知乎、好未來、地平線等企業也正在基于百度智能云提供的AI算力服務,以更加穩定、高效和經濟的方式實現大規模集群的訓練和管理。
圖注:大模型時代的云智一體
(圖源鞭牛士)
其次,在模型層面,對于希望直接調用已有大模型的客戶,千帆平臺納管了42個國內外主流大模型,企業客戶可以快速調用包括文心大模型在內的各種大模型的API,獲取大模型能力。對于第三方大模型,千帆平臺還針對性地進行了中文增強、性能增強、上下文增強等優化。目前千帆平臺已經服務了超過17000家客戶,大模型API調用量持續高速攀升。
第三,對于希望基于現有大模型進行二次開發的客戶,千帆平臺為大模型的再訓練、微調、評估和部署等環節提供全生命周期工具鏈、業界最多的41個高質量行業數據集,幫助客戶針對自身業務場景快速優化模型效果。目前,包括中國郵政儲蓄銀行、度小滿、金山辦公、河北高速集團在內的諸多行業頭部客戶,都正在通過千帆平臺提供的工具鏈服務開發出貼合業務需求的專屬大模型。
第四,在應用層面,一部分企業需要基于大模型服務去開發AI原生應用,千帆平臺上提供的一系列能力組件與框架,可以幫助企業快速完成應用開發,靈活地響應用戶與市場需求。
最后,另一部分客戶則希望直接、方便地選購成熟的AI原生應用產品,賦能業務發展。
(圖源百度世界2023直播截圖)
為了滿足企業敏捷、高效地進行AI原生應用開發的需求,降低AI原生應用開發門檻,百度智能云重磅發布“千帆AI原生應用開發工作臺”,將開發大模型應用的常見模式、工具、流程,沉淀成一個工作臺,幫助開發者聚焦在自身業務,而無需為開發過程牽扯多余精力。具體來講,千帆AI原生應用開發工作臺主要由應用組件、應用框架兩層服務構成。
應用組件服務由AI和基礎云兩大類組件構成,是對底層服務能力的組件化封裝,讓每個組件完成一個特定的功能。“AI組件”中既包含諸如問答、思維鏈(CoT,Chain of Thought)等大語言模型組件,還包括文生圖、語音識別等多模態組件,而“基礎云組件”則包含向量數據庫、對象存儲等傳統云服務能力。
應用框架則是通過將上述這些組件有選擇地串聯、組合起來,讓它們能夠比較完整地完成一個特定場景的任務。目前,千帆平臺上提供的檢索增強生成(RAG)、智能體(Agent)就是常用的AI原生應用框架。在每個框架下,百度智能云還提供豐富的樣板間,支撐開發者敏捷、高效地進行AI原生應用開發。
圖注:百度智能云重磅發布AI原生應用開發工作臺
(圖源鞭牛士,下同)
檢索增強生成(RAG,Retrieval Augmented Generation)框架,可以更高效的利用企業專有領域內的知識,并在大模型的幫助下根據相關問題做出精確回答,是專業知識問答類AI原生應用的必備核心能力。
大會現場還進行了如何基于RAG框架,為三一重工快速開發知識問答應用的實操演示:只需在千帆AI原生應用工作臺中選擇預置的RAG框架,進行相應的參數配置等工作,就可以快速實現三一重工官網智能客服應用的開發與上線。沈抖表示,搭建這樣一個“小助手”,即使需要處理幾千篇萬字長文檔,成本也只需幾百塊錢;而之后用戶每次咨詢,成本僅需幾分錢。
圖注:基于RAG應用框架快速完成三一重工知識問答應用開發
智能體(Agent)作為當前業界流行的應用框架,可以對人類給定的任務進行自動拆解,自動規劃并調用各種組件協同完成任務,同時根據任務完成效果得到反饋,改進自身能力。目前,Agent框架已經在工業、交通等領域得到了廣泛應用。
中天鋼鐵基于千帆AI原生應用開發工作臺提供的Agent框架打造了智能化的“企業調度中樞”,實現了任務指令的自動感知、分解與執行。比如,在發現鋼鐵產量不達標時,用戶只需提問一次,大模型就可以自動調用平臺納管的各種資源和API,完成BI取數、第三方根因分析等工作,找到未達標原因,及時調整排產計劃并發送郵件通知調度人員。
圖注:中天鋼鐵基于Agent應用框架打造企業調度中樞
為了滿足企業客戶便捷選購優質AI原生應用的需求,賦能伙伴商業成功,百度智能云重磅推出:國內首家面向企業客戶進行一站式交易的AI原生應用商店——百度智能云千帆AI原生應用商店,旨在為大模型時代AI原生應用的供需雙方建立起便捷、可靠的聯接通路,大幅提升客戶應用選型與采購效率,為伙伴商家創造更多商機。目前,企業用戶可以通過百度智能云官網,進入千帆AI原生應用商店,選購心儀的AI原生應用。
圖注:百度智能云千帆AI原生應用商店
本屆世界大會,百度發布了國內首個生成式商業智能產品——百度GBI(Generative Business Intelligence)。BI(商業智能)是當下展現大模型能力“天花板”的典型應用場景之一。百度GBI作為AI原生應用引擎,基于文心大模型實現了“智能問數”能力的全面重構:面向任意數據庫,都可以通過對話一步完成查詢與分析,相比傳統BI大幅提升了數據分析的效率,降低了數據分析專業能力要求。
以企業經營數據分析為例,百度GBI可以把商業數據分析師十幾天才能完成的數據分析、撰寫報告的工作時長,從以天為單位縮短到以分鐘為單位。而作為一類AI原生應用框架產品,百度GBI還可以實現極簡的跨行業、跨領域能力遷移,快速落地如城市治理分析、能源消費洞察、工業設備運行管理、金融投資決策、交通擁堵治理等場景中,高效實現政企BI類AI原生應用的開發構建。
圖注:百度GBI功能展示
金蝶作為首批入駐千帆AI原生應用商店的伙伴,聯合百度智能云于2023年8月8日重磅發布了金蝶云·蒼穹GPT,并率先推出業界首個財務大模型,助力客戶更加高效地進行財務管理與分析,提高財務處理的準確性和規范性,為企業的長期穩定發展提供強有力的保障。
大模型技術不僅正在重塑云計算的服務模式和產品形態,也正在重塑云計算產業的生態格局,對云計算廠商和其覆蓋千行百業的合作伙伴的能力與體系建設提出了全新要求。
為了助力合作伙伴們取得大模型時代的商業成功,百度智能云建設并推出了國內首個大模型全鏈路生態支持體系,并為10家綜合伙伴、100家應用伙伴、1萬家以上的初創企業以及代理伙伴,提供包括千帆社區、AI原生應用孵化、銷售商機、市場營銷、賦能培訓,以及千帆AI原生應用商店等全方位的支持。
百度集團副總裁袁佛玉表示,“在這個瞬息萬變的時代,百度不僅要在大模型技術和商業化探索的道路上勇闖無人區,還要與眾多合作伙伴共同打造繁榮的產業生態,共同探索新的商業模式和商業機會,實現真正的合作共贏。”
