跳到正文
Reddit · r/StableDiffusion· /u/Distinct-Pie2389·· 3 小时前AI 评分22

同时跑 ComfyUI 和本地 LLM,如何管理单卡 GPU 资源?

For those of you running both ComfyUI and local LLMs, how are you managing GPU resources?

AI 导读

有用户在 r/StableDiffusion 询问如何在单张 GPU 上切换 ComfyUI 工作流与本地 LLM 推理,以及如何应对显存争用。讨论涉及手动卸载模型、使用 LM Studio 或 llama-swap、依赖 ComfyUI 的模型管理,或自建自动切换方案。发帖人同时提到自己的项目 Berth。

打开原文reddit.com

来源:Reddit · r/StableDiffusion · reddit.com