mark-ramsey-ri/vllm-dgx-spark

Run vLLM on 1-to-N NVIDIA DGX Spark servers (single Spark, 2 via direct cable, or 3+ via switched fabric) to serve or benchmark LLMs

语言：Shell · GitHub 星标：131 · Fork：28

在 GitHub 上查看原仓库