算力成为新型服务模式,大模型"炼丹"热潮或将冷却

大模型训练需要大量算力支持,这使得算力正在成为一种新的商业模式。然而,目前行业面临高端GPU短缺、成本高企等挑战。随着市场趋于理性,大模型"炼丹"热潮可能会逐渐冷却,算力服务商需要未雨绸缪,及时转型。

清华大学毕业生毕恺峰训练的盘古气象大模型,使用了200张GPU卡进行为期2个月的预训练。按照每小时7.8元/张GPU的价格计算,仅训练成本就可能超过200万元。而训练通用大模型的成本可能还要翻百倍。

目前中国已有超过100个10亿参数规模的大模型。但高端GPU供不应求,一张英伟达A100的价格曾被炒至20-30万元,单台A100服务器月租也达到5-7万元。即便如此,仍有企业面临供应商跳票等问题。

业内普遍认为,没有数十亿资金支持,很难持续进行大模型研发。随着市场趋于理性,企业也会相应调整策略和成本控制。

面对算力短缺,企业采取了多种应对措施:

1. 使用高质量数据提升训练效率
2. 提升基础架构稳定性,实现千卡级长时间稳定运行
3. 优化算力资源调度,提高利用率
4. 从云计算架构过渡到超算架构
5. 使用国产平台替代英伟达GPU

算力已经发展成为一种新的服务模式。算力服务包括通用算力、智能算力和超算算力,通过API等方式向用户提供。产业链上游提供基础资源,中游负责算力生产和调度,下游则是行业用户。

目前算力服务主要采用按量计费和包年包月两种模式。未来还将推进"算网一体化融合",实现跨架构、跨地域、跨服务商的灵活调度。

随着大模型需求常态化,算力服务正快速形成独特的产业链和商业模式。尽管当前高端GPU短缺,但长期来看供需终将平衡。算力服务商需要及时调整战略,为市场变化做好准备。