lordmathis/llamactl

Unified management and routing for llama.cpp, MLX and vLLM models with web dashboard.

语言：Go · GitHub 星标：160 · Fork：33

话题：llama-cpp · llama-server · llamacpp · llm · llm-inference · llm-router · localllama · localllm

在 GitHub 上查看原仓库