vllm-project/aibrix

Cost-efficient and pluggable Infrastructure components for GenAI inference

语言：Go · GitHub 星标：5,181 · Fork：758

在 GitHub 上查看原仓库