跳到正文

创作方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

72 条精选近 30 天 71 条共收录 411 条

更新

精选归档 · 第 2 页

10月17日周六第 21–40 条
  1. Reddit · r/StableDiffusion72

    MOSS-Image 5B 在 12 GB RTX 3060 上 INT8 量化实测:35 条硬提示词单种子无挑选

    作者在 12 GB RTX 3060 上用 INT8 量化和 lodestones 的 8 步 DMD turbo 在 ComfyUI 里实测 MOSS-Image(5B 单流 DiT、Qwen3.5-9B 文本编码器、FLUX.2 VAE、Apache 2.0),35 条硬提示词、单种子 42、取首个结果不挑选,失败案例一并保留。

    选题角度:作者在 12 GB RTX 3060 上用 35 条硬提示词、单种子无挑选实测 MOSS-Image,失败案例也保留,适合做小显存跑 5B 图像模型的效果对比。

10月16日周五
  1. Hugging Face Blog66

    Reflection 发布 501B 开源 MoE 模型 Beam,Apache 2.0 许可、1M 上下文

    美国新实验室 Reflection 在 Hugging Face 发布首个开源模型 Beam,这是一个 501B 参数的 MoE 模型,每 token 激活 23B,支持 1M token 上下文,采用 Apache 2.0 许可,主打编码与智能体场景。

    选题角度:开源 501B MoE 模型 Beam 放出 Apache 2.0 权重和 vLLM、SGLang 部署配方,适合实测 1M 上下文下的编码与工具调用表现。

  2. 抖音 · 搜「AI视频」62

    ComfyUI 本地部署 MiniMax H3 教程:5060Ti 16G 加 32G 内存跑通文生视频

    作者发布 8 分钟教程,演示在 5060Ti 16G 显卡加 32G 内存的电脑上用 ComfyUI 本地部署 MiniMax H3 并跑出第一条 AI 视频。

    选题角度:作者用 5060Ti 16G 加 32G 内存实机跑通 MiniMax H3 文生视频,教程里包含虚拟内存改 80G、驱动 580 以上、加速 LoRA 八步出片等具体参数,适合照着录屏复现。

  3. 公众号 · APPSO75

    Meta 发布 8160 亿参数开放权重模型 Muse Spark Open,可在 Mac Studio 本地运行

    Meta 发布开放权重模型 Muse Spark Open,总参数量 8160 亿,采用 MoE 架构,每次推理激活约 420 亿参数,并与苹果共同展示其在两台或四台 Mac Studio 上运行的方案。

    选题角度:Meta 开放权重模型 Muse Spark Open 在 Mac Studio 上的多机部署方案,适合实测本地跑 8160 亿参数模型的生成速度与隐私优势。

  4. X · 宝玉65

    Cheng Lou 开源 Handwired:手写权重把程序逻辑变成免训练神经网络

    Midjourney 工程师、前 React 核心成员 Cheng Lou 开源了玩具项目 Handwired,把程序里的 if-else 和循环改写成手写权重的神经网络,无需训练,输出与对应 JavaScript 程序完全一致,可在浏览器运行,代码以 MIT 许可开源。

    选题角度:原文给出三个可直接在浏览器打开的 demo 和手写权重改写 if-else 的具体算式,适合录屏跑 Mini OS 与 10 万份 JSON 实时搜索看效果。

10月15日周四
  1. Reddit · AI 创作社区62

    ComfyUI 教程:RefMod + MiniMax H3 免 LoRA 训练保持角色一致性,6GB 显存实测

    作者发布了一套 ComfyUI 工作流,把 RefMod 与 MiniMax H3 结合,无需训练传统角色 LoRA 即可生成同一角色的新图像。流程是准备 8 张角色照片,用 RefMod 自定义节点生成 RefMod 文件,再载入 MiniMax H3 工作流并输入场景、服装、姿势或环境提示词。

    选题角度:作者给出可下载的 ComfyUI 工作流和 6GB 显存实测数据,适合录屏演示用 8 张照片免训练保持角色一致性。

  2. 公众号 · 差评X.PIN78

    英伟达发布 RTX Spark N1X 超级芯片,CPU 与 GPU 集成于一颗 SoC

    英伟达在旧金山 NVIDIA Spark Editor's Day 闭门会上发布全新超级芯片 RTX Spark 系列,最高 20 个 CPU 核心、6144 个 CUDA 核心,通过 NVLink-C2C 实现 600GB/s 互连带宽,最大支持 128GB LPDDR5X 统一内存。

    选题角度:作者现场拿到联想 YOGA Pro 15 RTX Spark 真机,跑分、本地部署 Qwen3.8 和《赛博朋克2077》实测数据齐全,适合做上手实测与 x86 平台对比。

  3. 公众号 · 智东西78

    英伟达RTX Spark真机上手:本地智能体实测与N1X芯片拆解

    智东西上手体验了16英寸华硕ProArt创16 RTX Spark笔记本电脑,该机搭载20核Grace CPU、6144核Blackwell RTX GPU、64GB统一内存和1TB固态硬盘,FP4精度下AI峰值算力1PFLOPS,美版售价约合人民币2.94万元。

    选题角度:作者实测华硕ProArt创16 RTX Spark跑本地智能体,读论文、整发票、辅助评测都有真实耗时和翻车细节,适合做上手实测。

  4. X · 可灵 Kling爆款72

    可灵 Kling 4.0 全面开放,新增 MCP 与 CLI 接入

    可灵 Kling 4.0 已全面开放,用户可通过全新创作界面使用,并新增 MCP 和 CLI 接入以提升视频创作流程的灵活性。官方预告即将推出 4K 和 1080p 的 10-bit HDR 视频输出,以及面向企业客户和开发者的 API 访问。

    选题角度:官方放出 Kling 4.0 全新创作界面和 MCP、CLI 入口,适合录屏演示从界面到命令行生成视频的完整流程。

  5. 公众号 · 智东西71

    阶跃星辰开源Step 5 Preview,600B总参数登OpenRouter周榜第二

    阶跃星辰正式开源Step 5 Preview模型权重,BF16、FP8两个版本同步上线Hugging Face和ModelScope。该模型采用稀疏MoE架构,总参数量600B、激活参数27B,支持100万Token上下文窗口,在Artificial Analysis Intelligence Index取得44分,位居全球开源模型前三。

    选题角度:原文给出开源权重下载入口和与Claude Opus 5的成本对比,适合实测同一任务下Step 5 Preview的百万token长上下文表现。

  6. 公众号 · 智东西67

    华为首次详解麒麟9050系列:韬定律、逻辑折叠与端侧30B大模型

    华为在上海举办为期两天的技术沟通会,首次详细解读麒麟9050系列背后的韬定律、逻辑折叠与混合键合等技术细节,这是时隔6年华为再次对外详解麒麟芯片。麒麟9050 Pro高速通道数超过5000万个,混合键合间距做到1.5微米,逻辑折叠带来CPU主频提升12.7%、GPU性能提升40%、NPU算力提升140%。端侧30B大模型通过多级存算协同与联合量化方案,用2.5GB内存实现终端运行。

    选题角度:华为首次详解麒麟9050系列的韬定律与逻辑折叠,可拆解混合键合1.5微米间距和端侧30B大模型跑通这两个硬核细节。

  7. 公众号 · 新智元60

    清华团队开源 Puro-2B:RTX 5090 预训练成本不到 5090 美元

    清华大学陈文光、吕凯风团队推出全流程开源的 Puro-2B(普罗-2B),开源训练数据、训练框架、训练配置和模型权重,在 RTX 5090 集群上从头训练约 20 亿参数模型,最多使用 1.4 万亿 token。

    选题角度:清华团队开源 Puro-2B 全流程,用 RTX 5090 以约 4400 美元预训练成本在 15 项任务上超过 Qwen2-1.5B,适合拆解这套低成本预训练配方。

  8. 抖音 · 搜「DeepSeek」58

    DeepSeek 10月15日宕机近5小时,今年第18次

    DeepSeek 在10月15日早上8:11出现大面积报错,网页端、App 和两个 API 接口几乎同时中断,下午1:04恢复,全程4小时52分,为今年第18次宕机。官方按账号10月8日至14日的消费金额以赠金形式全额返还,仅覆盖有消耗的 API 用户,并承诺梳理剥离单点依赖。视频称其今年用户量涨66.7%、算力储备仅涨8.3%,日活从1.2亿增至2亿,超7成算力用于训练新模型。

    选题角度:从一次宕机切入,用用户量涨66.7%、算力只涨8.3%和7成算力用于训练这组数字,讲清DeepSeek算力短缺的来龙去脉。

  9. 公众号 · 新智元71

    禾赛发布全球首款8K AI空间相机Kosmo One与三维世界数据引擎Kosmo

    禾赛于10月14日发布三维世界数据引擎Kosmo与云平台Kosmo World,并推出全球首款集成8K影像系统的AI空间相机Kosmo One。Kosmo One把激光雷达、8K影像系统、一英寸大底CMOS和高精度IMU装进同一台设备,几何精度达毫米级,镜头最高采集8K、成片最高6K,普通室内100平米约15分钟扫完。

    选题角度:禾赛发布Kosmo空间相机与Kosmo World云平台,可围绕皮克斯用它在园区扫描并接入RenderMan渲染的案例,做一次三维重建效果对比实测。

  10. 公众号 · 新智元71

    OpenAI 揭秘万级 Agent 实测:连跑 36 小时、日吞 1 万亿 Token

    OpenAI 博客披露 Third Moment Research 的万级 Agent 实测,1 万个 Agent 在 Docker 隔离容器中连续运行 36 到 48 小时,每天消耗 1 万亿 Token,单轮任务相当于人类工程师 41 年工作量。

    选题角度:OpenAI 博客披露 Third Moment Research 用万级 Agent 连跑 36 小时的真实案例,适合拆解双层监管架构和自进化四步循环怎么落地。

  11. 公众号 · 赛博禅心60

    企业微信与 WorkBuddy 打通,智能机器人进通讯录

    企业微信与 WorkBuddy 联合发布新版本,WorkBuddy 以智能机器人身份进入企业微信通讯录,企业微信升级到 5.0.12 后已认证企业可在左侧领取 WorkBuddy 企业版,WorkBuddy 客户端升级到 5.8.0 后可用企业微信账号登录。

    选题角度:作者把自建酒吧系统包成 MCP 接进企微机器人,可拍成从 83 项 API 到 136 个工具的接入实测。

  12. Hugging Face Blog80

    Black Forest Labs 发布 FLUX.3 Image Klein,Diffusers 首日支持

    Black Forest Labs 发布 FLUX.3 Image Klein,一个模型同时支持文生图、多参考图生图和 bbox 布局控制,Diffusers 首日即可运行。

    选题角度:原文给出可直接运行的 Diffusers 代码和 H100 上 1024×1024 约 2 秒的实测数据,适合录屏跑一遍文生图、多参考图编辑和 bbox 布局控制。

  13. 公众号 · 新智元73

    Anthropic 更新 Claude Code 桌面版,支持多会话并行与嵌套会话

    Anthropic 发布 Claude Code 桌面版重大更新,支持自动创建嵌套会话,把可并行的子任务拆到独立会话中后台执行,结果再汇总回主会话。新版重构了会话管理界面,侧边栏显示各会话状态,并支持把多目录、SSH 远程主机或云端环境打包保存为可一键复用的「环境」,多会话启动时可勾选每个文件夹独立 Git Worktree 隔离。

    选题角度:原文列出嵌套会话、Git Worktree 隔离、/btw 支线对话等具体功能,适合录屏演示一次交代多任务后子会话并行与结果汇总。