OpenAI-GPT-20B работает на 9 токенов в секунду на 10-летнем CPU (4-core i7-6700k)



Можно получить контекст до 50 000 токенов тоже.
GPT0.48%
CORE2.33%
GET6.49%
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 6
  • Репост
  • Поделиться
комментарий
0/400
RektRecordervip
· 16ч назад
Это слишком медленно.
Посмотреть ОригиналОтветить0
MEVHunterXvip
· 08-08 08:43
Эта производительность слишком насос.
Посмотреть ОригиналОтветить0
ApeEscapeArtistvip
· 08-07 04:29
Не лучше ли продать i7 и купить Риг для майнинга?
Посмотреть ОригиналОтветить0
FlashLoanLarryvip
· 08-07 04:29
мне все равно... все равно лучше, чем платить этиridiculous облачные вычислительные маржи, если честно
Посмотреть ОригиналОтветить0
BlockTalkvip
· 08-07 04:22
Это слишком медленно?
Посмотреть ОригиналОтветить0
ChainWanderingPoetvip
· 08-07 04:19
Все же A-карты не так хороши, как N-карты.
Посмотреть ОригиналОтветить0
  • Закрепить