NEO-MLSys25/NEO

NEO is a LLM inference engine built to save the GPU memory crisis by CPU offloading

语言：Python · GitHub 星标：99 · Fork：24

在 GitHub 上查看原仓库