Poder de computação torna-se um novo modelo de serviço, a onda de "refinamento de pílulas" dos grandes modelos pode esfriar.
O treinamento de grandes modelos requer um grande suporte de poder de computação, o que faz com que o poder de computação esteja se tornando um novo modelo de negócios. No entanto, a indústria enfrenta atualmente desafios como a escassez de GPUs de alta gama e altos custos. À medida que o mercado se torna mais racional, a "febre do refino" de grandes modelos pode gradualmente esfriar, e os provedores de serviços de poder de computação precisam se preparar e se transformar a tempo.
O modelo meteorológico Pangu, treinado por Bi Kaifeng, graduado da Universidade Tsinghua, utilizou 200 placas GPU durante um pré-treinamento de 2 meses. Calculando o custo de 7,8 yuan por hora por placa GPU, o custo de treinamento pode ultrapassar 2 milhões de yuan. E o custo para treinar um modelo geral pode ser ainda 100 vezes maior.
Atualmente, a China já possui mais de 100 grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, a procura por GPUs de alto desempenho supera a oferta, com o preço de uma Nvidia A100 tendo sido inflacionado para 200.000 a 300.000 yuan, e o aluguel mensal de um servidor A100 também atingindo 50.000 a 70.000 yuan. Mesmo assim, ainda há empresas enfrentando problemas com fornecedores que não cumprem os contratos.
A indústria geralmente acredita que, sem o apoio de bilhões em financiamento, é difícil continuar o desenvolvimento de grandes modelos. Com o mercado se tornando mais racional, as empresas também ajustarão suas estratégias e controle de custos.
Diante da escassez de poder de computação, as empresas tomaram várias medidas de enfrentamento:
Usar dados de alta qualidade para melhorar a eficiência do treinamento
Melhorar a estabilidade da infraestrutura, alcançando funcionamento estável a longo prazo em nível de mil calorias.
Otimizar o agendamento do poder de computação, aumentar a utilização
Transição da arquitetura de computação em nuvem para a arquitetura de supercomputação
Utilizar plataformas nacionais em vez de GPUs da NVIDIA
O poder de computação já se desenvolveu para se tornar um novo modelo de serviço. Os serviços de poder de computação incluem poder de computação genérico, poder de computação inteligente e poder de computação super, disponíveis para os usuários através de APIs e outros meios. A cadeia industrial fornece recursos básicos na parte superior, a produção e programação de poder de computação são responsabilidade da parte intermediária, e os usuários da indústria estão na parte inferior.
Atualmente, os serviços de poder de computação utilizam principalmente dois modelos: pagamento por uso e assinatura anual/mensal. No futuro, também será promovida a "integração e fusão de poder de computação e rede", permitindo uma programação flexível entre diferentes arquiteturas, regiões e prestadores de serviços.
Com a normalização da demanda por grandes modelos, os serviços de poder de computação estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Apesar da atual escassez de GPUs de alto desempenho, a longo prazo, a oferta e a demanda acabarão por se equilibrar. Os provedores de serviços de poder de computação precisam ajustar suas estratégias em tempo hábil e se preparar para as mudanças no mercado.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
12 Curtidas
Recompensa
12
4
Compartilhar
Comentário
0/400
GhostAddressMiner
· 12h atrás
Você abriu um modelo de bilhões queimando 200w, tsk tsk, por trás dessa operação definitivamente há suporte de capital no mercado.
Ver originalResponder0
FloorPriceNightmare
· 12h atrás
Vamos fritar o cão de cartas e morrer violentamente
O surgimento de novos modelos de serviços de poder de computação pode arrefecer a onda de modelos grandes.
Poder de computação torna-se um novo modelo de serviço, a onda de "refinamento de pílulas" dos grandes modelos pode esfriar.
O treinamento de grandes modelos requer um grande suporte de poder de computação, o que faz com que o poder de computação esteja se tornando um novo modelo de negócios. No entanto, a indústria enfrenta atualmente desafios como a escassez de GPUs de alta gama e altos custos. À medida que o mercado se torna mais racional, a "febre do refino" de grandes modelos pode gradualmente esfriar, e os provedores de serviços de poder de computação precisam se preparar e se transformar a tempo.
O modelo meteorológico Pangu, treinado por Bi Kaifeng, graduado da Universidade Tsinghua, utilizou 200 placas GPU durante um pré-treinamento de 2 meses. Calculando o custo de 7,8 yuan por hora por placa GPU, o custo de treinamento pode ultrapassar 2 milhões de yuan. E o custo para treinar um modelo geral pode ser ainda 100 vezes maior.
Atualmente, a China já possui mais de 100 grandes modelos com uma escala de 10 bilhões de parâmetros. No entanto, a procura por GPUs de alto desempenho supera a oferta, com o preço de uma Nvidia A100 tendo sido inflacionado para 200.000 a 300.000 yuan, e o aluguel mensal de um servidor A100 também atingindo 50.000 a 70.000 yuan. Mesmo assim, ainda há empresas enfrentando problemas com fornecedores que não cumprem os contratos.
A indústria geralmente acredita que, sem o apoio de bilhões em financiamento, é difícil continuar o desenvolvimento de grandes modelos. Com o mercado se tornando mais racional, as empresas também ajustarão suas estratégias e controle de custos.
Diante da escassez de poder de computação, as empresas tomaram várias medidas de enfrentamento:
O poder de computação já se desenvolveu para se tornar um novo modelo de serviço. Os serviços de poder de computação incluem poder de computação genérico, poder de computação inteligente e poder de computação super, disponíveis para os usuários através de APIs e outros meios. A cadeia industrial fornece recursos básicos na parte superior, a produção e programação de poder de computação são responsabilidade da parte intermediária, e os usuários da indústria estão na parte inferior.
Atualmente, os serviços de poder de computação utilizam principalmente dois modelos: pagamento por uso e assinatura anual/mensal. No futuro, também será promovida a "integração e fusão de poder de computação e rede", permitindo uma programação flexível entre diferentes arquiteturas, regiões e prestadores de serviços.
Com a normalização da demanda por grandes modelos, os serviços de poder de computação estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Apesar da atual escassez de GPUs de alto desempenho, a longo prazo, a oferta e a demanda acabarão por se equilibrar. Os provedores de serviços de poder de computação precisam ajustar suas estratégias em tempo hábil e se preparar para as mudanças no mercado.