fused metal kernels for llm inference. zig + metal. no python. no pytorch.
语言:Zig · GitHub 星标:7 · Fork:1
话题:apple-silicon · flash-attention · gpu · inference · llm · machine-learning · metal · zig
在 GitHub 上查看原仓库