Reddit · r/StableDiffusion· /u/Ready_Parking_5435·· 1 天前AI 评分18
学生开发者推出 PyTorch 优化器 ApexW:在 NVIDIA T4 上让 SD 1.5 LoRA 训练提速约 6.3%
i made an optimizer called ApexW to speed up PyTorch training on low-end GPUs Looking for feedback/benchmarks(got ~6.3% faster SD 1.5 LoRA training on a NVIDIA T4)
AI 导读
学生开发者发布自定义 PyTorch 优化器 ApexW,用于降低小参数更新时的 CUDA kernel 启动开销。在 NVIDIA T4 上训练 Stable Diffusion 1.5 LoRA 1000 步,Rank 16 时吞吐从 1.92 it/s 提升至 2.04 it/s,提速约 6.3%,VRAM 保持 4.68 GB;Rank 32 时仅提升约 0.5%。
来源:Reddit · r/StableDiffusion · reddit.com