kssteven418/BigLittleDecoder

[NeurIPS'23] Speculative Decoding with Big Little Decoder

语言：Python · GitHub 星标：99 · Fork：11

话题：decoding · efficient-inference · fast-inference · llm · speculative-decoding · speculative-execution

在 GitHub 上查看原仓库