docusealco/rllama

Ruby FFI bindings for llama.cpp to run open-source LLMs such as GPT-OSS, Qwen 3.5, Gemma 4, and Llama 3 locally with Ruby.

语言：Ruby · GitHub 星标：104 · Fork：3

话题：ai · embeddings · ffi · gguf · inference · llamacpp · llm · ruby

在 GitHub 上查看原仓库