maheshvaikri-code/snapllm

🔥 Alternative to Ollama — multi-model serving with sub-ms model switching · CPU-only 20B inference for Edge AI · llama.cpp + stablediffusion.cpp

语言：C++ · GitHub 星标：42 · Fork：4

话题：agentic-ai · cpu-inference · edge-ai · llm · llm-inference · llm-serving · llm-tools · local-llm

在 GitHub 上查看原仓库