신규DeepSeek, 추론 엔진 DeepInfer 오픈소스 공개…화웨이 칩도 지원
DeepSeek이 상용 서비스에 쓰는 추론 엔진 DeepInfer를 Apache 2.0으로 공개했다. V4.1-Flash 전용으로 NVIDIA SM100·화웨이 Ascend 950을 지원한다.
Seung Jung·
3분#vLLM
신규신규신규DeepSeek이 상용 서비스에 쓰는 추론 엔진 DeepInfer를 Apache 2.0으로 공개했다. V4.1-Flash 전용으로 NVIDIA SM100·화웨이 Ascend 950을 지원한다.