localai-org/apex-quant

Adaptive Precision for EXpert Models: MoE-aware mixed-precision quantization

语言：Shell · GitHub 星标：482 · Fork：34

在 GitHub 上查看原仓库