tenstorrent/vllm-tt-plugin

Tenstorrent backend plugin for vLLM.

语言：Python · GitHub 星标：19 · Fork：23

话题：ai-accelerator · deep-learning · inference · llm · machine-learning · plugin · python · tenstorrent

在 GitHub 上查看原仓库