InternLM/lmdeploy

LMDeploy is a toolkit for compressing, deploying, and serving LLMs.

语言：Python · GitHub 星标：8,135 · Fork：774

话题：codellama · cuda-kernels · deepspeed · fastertransformer · internlm · llama · llama2 · llama3

在 GitHub 上查看原仓库