CSUNX233/qwen3.8-27b-ninfer-5070tilaptop-kvmem-local-agent

RTX 5070 Ti Laptop 12GB 跑 Qwen3.8-27B：NInfer + KVMem、256K 逻辑上下文、RAM KV、MTP、快速缓存续接与 dsh 本地 Agent / 搜索 / 浏览器。含源码、Windows 部署及实测。

语言：C++ · GitHub 星标：80 · Fork：2

话题：12gb-vram · ai-agent · cuda · deepseek-harness · kvmem · laptop-gpu · local-ai · local-llm

在 GitHub 上查看原仓库