火山引擎總裁譚待主題演講：以多云多模型，迎接體驗創新的新時代
6月30日消息,2023火山引擎V-Tech體驗創新峰會于28日在北京召開。會上,火山引擎發布了大模型服務平臺“火山方舟”,面向企業提供模型精調、評測、推理等全方位的平臺服務,希望打通大模型上下游鏈條,共建“多模型”行業生態,共同服務好千行百業。
火山引擎總裁譚待以《多云多模型,迎接體驗創新的新時代》為主題,分享了火山引擎在大模型領域的洞察與探索。未來的大模型市場將是一個百花齊放的多模型生態,企業自身對大模型的應用將會呈現“1+N”的模式。
圖片來源: 火山引擎,下同
如何做好、用好大模型?一直以來,火山引擎致力于通過云和智能技術,幫助企業實現更好的數字化增長?；鹕揭鎸⒃粕显鲩L的動力總結成了3個核心要素,即“體驗創新”、“數據驅動”和“敏捷迭代”。
譚待認為:“在云上增長三要素中,‘體驗創新’能夠直接為企業創造巨大的用戶價值和商業價值?；仡櫄v史,每次技術大變革,都會帶來體驗創新的巨大機會?，F在,大模型已經當仁不讓地捧起了技術創新和體驗創新的接力棒。”
大模型的語言對話能力,第一次能夠讓機器去適應和理解人類的交互方式。大模型以seq2seq(Sequence-to-Sequence,序列到序列)的預測為基礎,語言、圖像、視頻、計算機操作和指令都可以序列化,這也讓大模型在各個行業落地呈現出成千上萬種可能性。
火山引擎總裁譚待
目前,國內的大模型市場呈現出如火如荼的態勢。做好大模型,算法、數據和算力三要素缺一不可,安全與信任、性價比、生態系統等問題也一樣值得關注。安全與信任指的是雙向信任,大模型服務商希望模型方案和代碼不被泄露;模型的應用企業也需要保障調用大模型時,自身Prompt或精調數據不被泄露。
性價比方面,從更長的時間維度來看,后期模型推理計算才是成本更高的環節。只有推理成本足夠低,才能讓大模型被廣泛使用。生態系統方面,生成式模型并不清楚自身所擅長的領域。因此需要被告知其自身優劣勢,并在其不擅長的地方提供下游模型、API和插件。
此外,企業應該如何用好大模型,設計好企業在智能時代的技術路線?譚待認為,選擇合適的大模型、做好提示工程、對接好插件和工具鏈,是三個關鍵。
火山引擎總裁譚待
首先,在選擇合適的大模型之前,需要制定可量化的評估指標。是關注模型的邏輯推理能力?還是文本生成能力?還是風險控制能力?有了量化的評估指標作為依據,就可以針對不同的模型進行全方位的能力測評,選擇性價比最合適的。
然后,需要做好提示工程(Prompt Engineering)?？梢宰孭rompt盡可能全面地包含詳細的任務內容、相關信息和說明。也可以通過Few-Shot Prompt的方式,盡可能地給大模型一些樣本和示例?；蛘咄ㄟ^“step by step”這樣CoT的方式,進一步加強模型的性能。
最后是對接好插件和工具鏈。大模型自己并不知道自己擅長什么,不擅長什么。所以需要通過工具并且幫助模型在合適的場景下更好地使用它們,帶來更好的應用效果。
