算力成爲新型服務模式,大模型"煉丹"熱潮或將冷卻

大模型訓練需要大量算力支持,這使得算力正在成爲一種新的商業模式。然而,目前行業面臨高端GPU短缺、成本高企等挑戰。隨着市場趨於理性,大模型"煉丹"熱潮可能會逐漸冷卻,算力服務商需要未雨綢繆,及時轉型。

清華大學畢業生畢愷峯訓練的盤古氣象大模型,使用了200張GPU卡進行爲期2個月的預訓練。按照每小時7.8元/張GPU的價格計算,僅訓練成本就可能超過200萬元。而訓練通用大模型的成本可能還要翻百倍。

目前中國已有超過100個10億參數規模的大模型。但高端GPU供不應求,一張英偉達A100的價格曾被炒至20-30萬元,單臺A100服務器月租也達到5-7萬元。即便如此,仍有企業面臨供應商跳票等問題。

業內普遍認爲,沒有數十億資金支持,很難持續進行大模型研發。隨着市場趨於理性,企業也會相應調整策略和成本控制。

面對算力短缺,企業採取了多種應對措施:

1. 使用高質量數據提升訓練效率
2. 提升基礎架構穩定性,實現千卡級長時間穩定運行
3. 優化算力資源調度,提高利用率
4. 從雲計算架構過渡到超算架構
5. 使用國產平台替代英偉達GPU

算力已經發展成爲一種新的服務模式。算力服務包括通用算力、智能算力和超算算力,通過API等方式向用戶提供。產業鏈上遊提供基礎資源,中遊負責算力生產和調度,下遊則是行業用戶。

目前算力服務主要採用按量計費和包年包月兩種模式。未來還將推進"算網一體化融合",實現跨架構、跨地域、跨服務商的靈活調度。

隨着大模型需求常態化,算力服務正快速形成獨特的產業鏈和商業模式。盡管當前高端GPU短缺,但長期來看供需終將平衡。算力服務商需要及時調整戰略,爲市場變化做好準備。