alibaba/ServeGen

A framework for generating realistic LLM serving workloads

语言：Python · GitHub 星标：191 · Fork：16

话题：deepseek · llm · llm-serving · model-serving · qwen

在 GitHub 上查看原仓库