vllm-project/vllm-metal

Community maintained hardware plugin for vLLM on Apple Silicon

语言：Python · GitHub 星标：1,943 · Fork：332

话题：apple-silicon · llm · macos · metal · mlx · vllm

在 GitHub 上查看原仓库