开源雷达国内 GitHub 镜像站
加速通道已就绪 返回列表
全部项目

aleibovici/ollama-gpu-calculator

Check whether your GPU can run an Ollama model. Estimates VRAM, KV cache, tokens/sec and power for single and multi-GPU setups.

语言:JavaScript · GitHub 星标:73 · Fork:10

话题:amd · apple-silicon · bun · calculator · gguf · gpu · inference · kv-cache

在 GitHub 上查看原仓库

正在读取项目信息…