opktunme/XTLLM

Native Vulkan inference for giant MoE models on consumer AMD GPUs

语言：C++ · GitHub 星标：18 · Fork：3

话题：amd-gpu · llm-inference · local-llm · mixture-of-experts · vulkan · windows

在 GitHub 上查看原仓库