Reddit · r/StableDiffusion· /u/Distinct-Pie2389·· 3 小时前AI 评分22
同时跑 ComfyUI 和本地 LLM,如何管理单卡 GPU 资源?
For those of you running both ComfyUI and local LLMs, how are you managing GPU resources?
AI 导读
有用户在 r/StableDiffusion 询问如何在单张 GPU 上切换 ComfyUI 工作流与本地 LLM 推理,以及如何应对显存争用。讨论涉及手动卸载模型、使用 LM Studio 或 llama-swap、依赖 ComfyUI 的模型管理,或自建自动切换方案。发帖人同时提到自己的项目 Berth。
来源:Reddit · r/StableDiffusion · reddit.com