InstAttention: In-Storage Attention Offloading for Cost-Effective Long-Context LLM Inference
语言:C · GitHub 星标:19 · Fork:2
在 GitHub 上查看原仓库