Self-hosted, distributed, multi-model LLM inference
语言:Go · GitHub 星标:42 · Fork:1
话题:ai-platform · embeddings · enterpise · enterpise-ai · k8s · llm · llm-d · llms
在 GitHub 上查看原仓库