a LLM inference engine to run on consumer hardware
语言:Python · GitHub 星标:49 · Fork:3
话题:inference · llm · nlp · pytorch · transformer
在 GitHub 上查看原仓库