gotzmann/booster

Booster - open accelerator for LLM models. Better inference and debugging for AI hackers

语言：C++ · GitHub 星标：169 · Fork：13

话题：chatgpt · exllama · ggml · gpt · llama · llama-cpp · llamacpp · llm

在 GitHub 上查看原仓库