dphnAI/sonar

Large-scale LLM inference engine

语言：Python · GitHub 星标：1,898 · Fork：213

话题：api-rest · cuda · inference-engine · inferentia · intel · lora · machine-learning · rocm

在 GitHub 上查看原仓库