OpenAI-GPT-20B працює на 9 токенів за секунду на 10-річному CPU (4-ядерному i7-6700k)



Можна отримати до 50 000 токенів контексту.
GPT-0.51%
CORE0.26%
GET7.66%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 6
  • Репост
  • Поділіться
Прокоментувати
0/400
RektRecordervip
· 08-08 20:30
Це занадто повільно!
Переглянути оригіналвідповісти на0
MEVHunterXvip
· 08-08 08:43
Ця продуктивність занадто памп.
Переглянути оригіналвідповісти на0
ApeEscapeArtistvip
· 08-07 04:29
Не краще продати i7 і купити установку для майнінгу
Переглянути оригіналвідповісти на0
FlashLoanLarryvip
· 08-07 04:29
мех... все ще краще, ніж платити ці безглузді маржі за хмарні обчислення, якщо чесно
Переглянути оригіналвідповісти на0
BlockTalkvip
· 08-07 04:22
Це занадто повільно, чи не так?
Переглянути оригіналвідповісти на0
ChainWanderingPoetvip
· 08-07 04:19
А все ж A-карта не так смачна, як N-карта.
Переглянути оригіналвідповісти на0
  • Закріпити