vllm-project/router

A high-performance and light-weight router for vLLM large scale deployment

语言：Rust · GitHub 星标：491 · Fork：232

在 GitHub 上查看原仓库