신규"GPU 몇 장뿐인 연구실", 125B 모델을 24GB 카드 한 장에 올렸다
CMU의 Tim Dettmers가 자신의 연구실 프레임워크로 125B 모델을 24GB GPU 한 장에서, 550B 모델을 128GB MacBook에서 돌린다고 밝혔다. 6건을 한꺼번에 푸는 오픈소스 위크를 하루 앞둔 발표다.
Seung Jung·
5분#carnegie-mellon
신규신규신규CMU의 Tim Dettmers가 자신의 연구실 프레임워크로 125B 모델을 24GB GPU 한 장에서, 550B 모델을 128GB MacBook에서 돌린다고 밝혔다. 6건을 한꺼번에 푸는 오픈소스 위크를 하루 앞둔 발표다.