ling0322/libllm

A lightweight vLLM-style inference engine in Rust

语言：C++ · GitHub 星标：154 · Fork：7

话题：ai · cpp · language-model · llama · llm · python · rust

在 GitHub 上查看原仓库