Bilgi İşlem Gücü yeni bir hizmet modeli haline geliyor, büyük modellerin "dan yapma" heyecanı soğuyabilir.
Büyük model eğitimi, büyük miktarda Bilgi İşlem Gücü desteği gerektirir, bu da Bilgi İşlem Gücü'nün yeni bir iş modeli haline gelmesini sağlamaktadır. Ancak, şu anda sektör, yüksek kaliteli GPU eksikliği, yüksek maliyetler gibi zorluklarla karşı karşıya. Pazarın rasyonelleşmesiyle birlikte, büyük model "ilaç yapma" heyecanı muhtemelen yavaş yavaş soğuyacak; Bilgi İşlem Gücü hizmet sağlayıcıları, hazırlıklı olmalı ve zamanında dönüşüm sağlamalıdır.
Tsinghua Üniversitesi mezunu Bi Kaifeng'in eğittiği Pangu Meteoroloji Büyük Modeli, 2 ay süresince 200 GPU kartı kullanılarak ön eğitim gerçekleştirdi. Saatte 7.8 TL/GPU fiyatına göre hesaplandığında, yalnızca eğitim maliyeti 2 milyon TL'yi aşabilir. Genel büyük modellerin eğitim maliyeti ise yüz katı kadar daha fazla olabilir.
Şu anda Çin'de 10 milyar parametre ölçeğinde 100'den fazla büyük model bulunmaktadır. Ancak yüksek kaliteli GPU'lar talebi karşılayamıyor, bir adet Nvidia A100'ün fiyatı 200,000-300,000 yuan'a kadar çıkmıştı, tek bir A100 sunucusunun aylık kirası da 50,000-70,000 yuan'ı buluyor. Yine de, bazı şirketler tedarikçi sözlerini tutmama gibi sorunlarla karşılaşıyor.
Sektörde genel olarak, on milyarlarca dolarlık bir destek olmadan büyük model araştırma ve geliştirmesinin sürdürülebilir olmasının zor olduğu düşünülmektedir. Pazar rasyonelleştikçe, şirketler de stratejilerini ve maliyet kontrolünü buna göre ayarlayacaktır.
Yetersiz bilgi işlem gücü ile karşılaşan işletmeler çeşitli önlemler aldı:
Yüksek kaliteli verileri kullanarak eğitim verimliliğini artırın.
Altyapı istikrarını artırmak, kilokalori seviyesinde uzun süreli istikrarlı çalışma sağlamak
Bilgi İşlem Gücü kaynak dağıtımını optimize et, verimliliği artır
Bulut bilişim mimarisinden süper bilgisayar mimarisine geçiş
Yerli platformlar kullanarak Nvidia GPU'ların yerini alın
Bilgi İşlem Gücü, yeni bir hizmet modeli haline gelmiştir. Bilgi İşlem Gücü hizmetleri, genel bilgi işlem gücü, akıllı bilgi işlem gücü ve süper bilgi işlem gücü dahil olmak üzere, kullanıcıya API gibi yöntemlerle sunulmaktadır. Sanayi zincirinin üst kısmı temel kaynakları sağlar, orta kısım bilgi işlem gücü üretimi ve dağıtımından sorumludur, alt kısım ise sektör kullanıcılarıdır.
Şu anda Bilgi İşlem Gücü hizmetleri esas olarak iki modelle: kullanım bazlı faturalama ve yıllık/aylık paketler ile sunulmaktadır. Gelecekte ise "hesap ağı entegrasyonu" ilerletilecek ve çapraz mimari, çapraz bölge ve çapraz hizmet sağlayıcılar arasında esnek planlama sağlanacaktır.
Büyük model taleplerinin normalleşmesiyle birlikte, bilgi işlem gücü hizmetleri hızla benzersiz bir endüstri zinciri ve iş modeli oluşturmaktadır. Mevcut yüksek kaliteli GPU sıkıntısına rağmen, uzun vadede arz ve talebin sonunda dengeleneceği öngörülmektedir. Bilgi işlem gücü sağlayıcıları stratejilerini zamanında ayarlamalı ve piyasa değişikliklerine hazırlıklı olmalıdır.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
13 Likes
Reward
13
4
Share
Comment
0/400
GhostAddressMiner
· 21h ago
Sen bir milyar seviyesinde bir model açıp 200w harcıyorsun, tsk tsk, bu işlemin arkasında kesinlikle bir sermaye desteği var.
View OriginalReply0
FloorPriceNightmare
· 22h ago
Karta köpeklerin patlaması
View OriginalReply0
ReverseTradingGuru
· 22h ago
Kaybedeceğim o kadar çok ki, iç çamaşırım kalmayacak.
Bilgi İşlem Gücü hizmetleri yeni bir iş modeli olarak yükseliyor, büyük model heyecanı belki de soğuyacak.
Bilgi İşlem Gücü yeni bir hizmet modeli haline geliyor, büyük modellerin "dan yapma" heyecanı soğuyabilir.
Büyük model eğitimi, büyük miktarda Bilgi İşlem Gücü desteği gerektirir, bu da Bilgi İşlem Gücü'nün yeni bir iş modeli haline gelmesini sağlamaktadır. Ancak, şu anda sektör, yüksek kaliteli GPU eksikliği, yüksek maliyetler gibi zorluklarla karşı karşıya. Pazarın rasyonelleşmesiyle birlikte, büyük model "ilaç yapma" heyecanı muhtemelen yavaş yavaş soğuyacak; Bilgi İşlem Gücü hizmet sağlayıcıları, hazırlıklı olmalı ve zamanında dönüşüm sağlamalıdır.
Tsinghua Üniversitesi mezunu Bi Kaifeng'in eğittiği Pangu Meteoroloji Büyük Modeli, 2 ay süresince 200 GPU kartı kullanılarak ön eğitim gerçekleştirdi. Saatte 7.8 TL/GPU fiyatına göre hesaplandığında, yalnızca eğitim maliyeti 2 milyon TL'yi aşabilir. Genel büyük modellerin eğitim maliyeti ise yüz katı kadar daha fazla olabilir.
Şu anda Çin'de 10 milyar parametre ölçeğinde 100'den fazla büyük model bulunmaktadır. Ancak yüksek kaliteli GPU'lar talebi karşılayamıyor, bir adet Nvidia A100'ün fiyatı 200,000-300,000 yuan'a kadar çıkmıştı, tek bir A100 sunucusunun aylık kirası da 50,000-70,000 yuan'ı buluyor. Yine de, bazı şirketler tedarikçi sözlerini tutmama gibi sorunlarla karşılaşıyor.
Sektörde genel olarak, on milyarlarca dolarlık bir destek olmadan büyük model araştırma ve geliştirmesinin sürdürülebilir olmasının zor olduğu düşünülmektedir. Pazar rasyonelleştikçe, şirketler de stratejilerini ve maliyet kontrolünü buna göre ayarlayacaktır.
Yetersiz bilgi işlem gücü ile karşılaşan işletmeler çeşitli önlemler aldı:
Bilgi İşlem Gücü, yeni bir hizmet modeli haline gelmiştir. Bilgi İşlem Gücü hizmetleri, genel bilgi işlem gücü, akıllı bilgi işlem gücü ve süper bilgi işlem gücü dahil olmak üzere, kullanıcıya API gibi yöntemlerle sunulmaktadır. Sanayi zincirinin üst kısmı temel kaynakları sağlar, orta kısım bilgi işlem gücü üretimi ve dağıtımından sorumludur, alt kısım ise sektör kullanıcılarıdır.
Şu anda Bilgi İşlem Gücü hizmetleri esas olarak iki modelle: kullanım bazlı faturalama ve yıllık/aylık paketler ile sunulmaktadır. Gelecekte ise "hesap ağı entegrasyonu" ilerletilecek ve çapraz mimari, çapraz bölge ve çapraz hizmet sağlayıcılar arasında esnek planlama sağlanacaktır.
Büyük model taleplerinin normalleşmesiyle birlikte, bilgi işlem gücü hizmetleri hızla benzersiz bir endüstri zinciri ve iş modeli oluşturmaktadır. Mevcut yüksek kaliteli GPU sıkıntısına rağmen, uzun vadede arz ve talebin sonunda dengeleneceği öngörülmektedir. Bilgi işlem gücü sağlayıcıları stratejilerini zamanında ayarlamalı ve piyasa değişikliklerine hazırlıklı olmalıdır.