fattank/deepseek-on-vllm-VRAMandDRAM
一套基于Vllm的显存内存混合模式大模型部署工具（图形界面），VRAMandDRAM模式虽然慢一点，但是解决了超大模型在普通家用计算机上的部署问题。
正在读取项目信息…
开源雷达国内 GitHub 镜像站
加速通道已就绪
返回列表
开源雷达国内 GitHub 镜像站
一套基于Vllm的显存内存混合模式大模型部署工具（图形界面），VRAMandDRAM模式虽然慢一点，但是解决了超大模型在普通家用计算机上的部署问题。