Khả năng tính toán trở thành mô hình dịch vụ mới, cơn sốt "luyện đan" của mô hình lớn có thể sẽ giảm nhiệt
Việc huấn luyện mô hình lớn cần hỗ trợ từ khả năng tính toán lớn, điều này khiến khả năng tính toán trở thành một mô hình kinh doanh mới. Tuy nhiên, hiện tại ngành công nghiệp đang đối mặt với tình trạng thiếu hụt GPU cao cấp, chi phí gia tăng. Khi thị trường trở nên hợp lý hơn, cơn sốt "luyện đan" mô hình lớn có thể dần dần hạ nhiệt, các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời chuyển đổi.
Mô hình khí tượng Pangu do tốt nghiệp Đại học Thanh Hoa, Bi Kha Phong, huấn luyện, đã sử dụng 200 thẻ GPU trong 2 tháng để tiền huấn luyện. Tính theo giá 7,8 nhân dân tệ/giờ/thẻ GPU, chỉ riêng chi phí huấn luyện có thể vượt quá 2 triệu nhân dân tệ. Trong khi đó, chi phí để huấn luyện mô hình lớn tổng quát có thể còn gấp trăm lần.
Hiện nay, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Nhưng GPU cao cấp đang khan hiếm, giá một chiếc Nvidia A100 đã từng bị thổi lên đến 200-300 triệu nhân dân tệ, tiền thuê một máy chủ A100 cũng đạt từ 50-70 triệu nhân dân tệ mỗi tháng. Dù vậy, vẫn có doanh nghiệp phải đối mặt với vấn đề nhà cung cấp không giao hàng.
Ngành công nghiệp cho rằng, rất khó để duy trì nghiên cứu và phát triển mô hình lớn mà không có sự hỗ trợ hàng tỷ đô la. Khi thị trường trở nên hợp lý hơn, các doanh nghiệp cũng sẽ điều chỉnh chiến lược và kiểm soát chi phí tương ứng.
Đối mặt với khả năng tính toán thiếu hụt, các doanh nghiệp đã thực hiện nhiều biện pháp đối phó:
Sử dụng dữ liệu chất lượng cao để nâng cao hiệu quả đào tạo
Nâng cao tính ổn định của hạ tầng, đạt được khả năng hoạt động ổn định lâu dài ở mức kilocalorie.
Tối ưu hóa khả năng tính toán tài nguyên, nâng cao tỷ lệ sử dụng
Chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính
Sử dụng nền tảng nội địa thay thế GPU Nvidia
Khả năng tính toán đã phát triển thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán bao gồm khả năng tính toán chung, khả năng tính toán thông minh và khả năng tính toán siêu, được cung cấp cho người dùng thông qua các phương thức như API. Chuỗi công nghiệp thượng nguồn cung cấp tài nguyên cơ bản, trung nguồn chịu trách nhiệm sản xuất và điều phối khả năng tính toán, hạ nguồn là người dùng trong ngành.
Hiện tại, dịch vụ khả năng tính toán chủ yếu áp dụng hai hình thức tính phí là theo lượng sử dụng và gói theo năm hoặc tháng. Trong tương lai, sẽ thúc đẩy "tích hợp khả năng tính toán và mạng", đạt được việc điều phối linh hoạt giữa các kiến trúc, khu vực và nhà cung cấp dịch vụ.
Với nhu cầu mô hình lớn trở nên bình thường, khả năng tính toán dịch vụ đang nhanh chóng hình thành chuỗi công nghiệp và mô hình kinh doanh độc đáo. Mặc dù hiện tại có sự thiếu hụt GPU cao cấp, nhưng về lâu dài, cung và cầu cuối cùng sẽ đạt được sự cân bằng. Các nhà cung cấp dịch vụ khả năng tính toán cần điều chỉnh chiến lược kịp thời để chuẩn bị cho sự thay đổi của thị trường.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
11 thích
Phần thưởng
11
4
Chia sẻ
Bình luận
0/400
GhostAddressMiner
· 4giờ trước
Bạn mở một mô hình trị giá hàng triệu, tiêu tốn 200w, ồ, hành động này chắc chắn có sự hỗ trợ từ các nhà đầu tư trong thị trường.
Khả năng tính toán dịch vụ hình thành một mô hình mới, cơn sốt mô hình lớn có thể sẽ hạ nhiệt.
Khả năng tính toán trở thành mô hình dịch vụ mới, cơn sốt "luyện đan" của mô hình lớn có thể sẽ giảm nhiệt
Việc huấn luyện mô hình lớn cần hỗ trợ từ khả năng tính toán lớn, điều này khiến khả năng tính toán trở thành một mô hình kinh doanh mới. Tuy nhiên, hiện tại ngành công nghiệp đang đối mặt với tình trạng thiếu hụt GPU cao cấp, chi phí gia tăng. Khi thị trường trở nên hợp lý hơn, cơn sốt "luyện đan" mô hình lớn có thể dần dần hạ nhiệt, các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời chuyển đổi.
Mô hình khí tượng Pangu do tốt nghiệp Đại học Thanh Hoa, Bi Kha Phong, huấn luyện, đã sử dụng 200 thẻ GPU trong 2 tháng để tiền huấn luyện. Tính theo giá 7,8 nhân dân tệ/giờ/thẻ GPU, chỉ riêng chi phí huấn luyện có thể vượt quá 2 triệu nhân dân tệ. Trong khi đó, chi phí để huấn luyện mô hình lớn tổng quát có thể còn gấp trăm lần.
Hiện nay, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Nhưng GPU cao cấp đang khan hiếm, giá một chiếc Nvidia A100 đã từng bị thổi lên đến 200-300 triệu nhân dân tệ, tiền thuê một máy chủ A100 cũng đạt từ 50-70 triệu nhân dân tệ mỗi tháng. Dù vậy, vẫn có doanh nghiệp phải đối mặt với vấn đề nhà cung cấp không giao hàng.
Ngành công nghiệp cho rằng, rất khó để duy trì nghiên cứu và phát triển mô hình lớn mà không có sự hỗ trợ hàng tỷ đô la. Khi thị trường trở nên hợp lý hơn, các doanh nghiệp cũng sẽ điều chỉnh chiến lược và kiểm soát chi phí tương ứng.
Đối mặt với khả năng tính toán thiếu hụt, các doanh nghiệp đã thực hiện nhiều biện pháp đối phó:
Khả năng tính toán đã phát triển thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán bao gồm khả năng tính toán chung, khả năng tính toán thông minh và khả năng tính toán siêu, được cung cấp cho người dùng thông qua các phương thức như API. Chuỗi công nghiệp thượng nguồn cung cấp tài nguyên cơ bản, trung nguồn chịu trách nhiệm sản xuất và điều phối khả năng tính toán, hạ nguồn là người dùng trong ngành.
Hiện tại, dịch vụ khả năng tính toán chủ yếu áp dụng hai hình thức tính phí là theo lượng sử dụng và gói theo năm hoặc tháng. Trong tương lai, sẽ thúc đẩy "tích hợp khả năng tính toán và mạng", đạt được việc điều phối linh hoạt giữa các kiến trúc, khu vực và nhà cung cấp dịch vụ.
Với nhu cầu mô hình lớn trở nên bình thường, khả năng tính toán dịch vụ đang nhanh chóng hình thành chuỗi công nghiệp và mô hình kinh doanh độc đáo. Mặc dù hiện tại có sự thiếu hụt GPU cao cấp, nhưng về lâu dài, cung và cầu cuối cùng sẽ đạt được sự cân bằng. Các nhà cung cấp dịch vụ khả năng tính toán cần điều chỉnh chiến lược kịp thời để chuẩn bị cho sự thay đổi của thị trường.