阿里云王超：云計算將成為大模型必選算力底座
5月4日消息,在第六屆數字中國建設峰會“人工智能分論壇”上,阿里云智能計算集群靈駿負責人、資深技術專家王超發表了題為《建設大規模綠色智算,護航人工智能產業可持續發展》的演講。王超指出,大模型在推理和訓練場景都需要大算力,云計算將成為大模型的必選算力底座。
阿里云智能計算集群靈駿負責人、資深技術專家 王超
圖源:阿里云官微,下同
王超在演講中表示,大模型訓練通常需要數千張GPU卡,基于TB級別的數據,耗時幾個月進行訓練,然后其他用戶在預訓練大模型的基礎上再進行強化學習,而這需要數百張GPU卡,耗時一兩個月。
但這種現狀存在很多問題:一方面,廠商投資數億元建設的計算集群只用幾個月極不經濟;另外一方面,購買、規劃和組建超大規模的算力集群也要耗時半年到一年的時間。此外,把算力集群的算力提供給全球各地的其他客戶使用也有著很大的技術挑戰。
王超透露,阿里云正在基于靈駿智算集群和機器學習平臺PAI解決這些問題,希望未來幫助大模型廠商只需要花費一天的時間就能在云上建設一個數千張GPU卡規模的訓練集群,在完成訓練任務后,算力可以快速釋放出來供其他客戶使用。
王超介紹,目前,阿里云使用多年積累的技術,已經可以在云上打造一個“10萬卡”體量的超大規模智算集群,并且解決了關鍵的網絡、數據存儲、算力的可觀測、可調度和負載平衡等技術問題,構建了一個從集群IaaS到PaaS到MaaS全棧式的服務,方便各行各業的大模型廠商和企業客戶使用。
在本次大會上,阿里云還集中展示了在綠色數據中心、雙碳解決方案以及少年云助學計劃等領域的最新產品和進展。
少年云助學計劃2021年10月由阿里巴巴集團發起,目前在20個欠發達區域,讓6萬多個中小學生用上了自己的專屬云電腦,除信息技術外,數學、語文、音樂、美術、勞動、溝通等43門特色課程被搬進了這個信息科技教學空間。
