最新「只有幾張GPU」的實驗室宣稱：125B模型塞得進單張24GB顯卡
CMU的Tim Dettmers表示，實驗室的框架能在單張24GB GPU上跑125B模型，在128GB的MacBook上跑550B模型。這是六項成果同步釋出的開源週前一天的預告。
Seung Jung·
5分鐘#quantization
最新最新最新CMU的Tim Dettmers表示，實驗室的框架能在單張24GB GPU上跑125B模型，在128GB的MacBook上跑550B模型。這是六項成果同步釋出的開源週前一天的預告。