OpenBitSys/BitDecoding

[HPCA 2026] A GPU-optimized system for efficient long-context LLMs decoding with low-bit KV cache.

语言：C++ · GitHub 星标：104 · Fork：13

在 GitHub 上查看原仓库