dnv2003/v100-skinny

Hand-written NVFP4 W4A16 CUDA kernels for Volta

语言：Python · GitHub 星标：179 · Fork：26

话题：cuda · cuda-kernels · fp4 · gemm · gpu · inference-engine · int4 · llm-inference

在 GitHub 上查看原仓库