huangserva/ninfer-v100-tpx

两张 V100 跑 Qwen3.8-27B 到 100 tok/s（186K 上下文）：重写 sm70 注意力内核 + 多卡张量并行。Fork of geoffwatts/ninfer-v100.

语言：C++ · GitHub 星标：17 · Fork：6

在 GitHub 上查看原仓库