wangzhaode/mnn-llm

llm deploy project based mnn. This project has merged into MNN.

语言：C++ · GitHub 星标：1,616 · Fork：177

话题：baichuan2-7b · chatglm-6b · chatglm2-6b · codegeex2-6b · cpp · cuda · mnn · opencl

在 GitHub 上查看原仓库