Cerid-AI/quenchforge

Local LLM, embedding, reranker, and Whisper inference for Mac + AMD discrete GPU. Ollama- and OpenAI-compatible HTTP APIs. Apache-2.0.

语言：Go · GitHub 星标：9 · Fork：3

话题：amd-gpu · apache-2 · golang · inference · llamacpp · llm · macos · metal

在 GitHub 上查看原仓库