跳到正文

创作方向

端侧 AI 最新动态

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

21 条精选近 30 天 21 条共收录 106 条

更新

端侧 AI的精选

10月17日周六第 1–20 条
10月16日周五
  1. 公众号 · APPSO75

    Meta 发布 8160 亿参数开放权重模型 Muse Spark Open,可在 Mac Studio 本地运行

    Meta 发布开放权重模型 Muse Spark Open,总参数量 8160 亿,采用 MoE 架构,每次推理激活约 420 亿参数,并与苹果共同展示其在两台或四台 Mac Studio 上运行的方案。

    选题角度:Meta 开放权重模型 Muse Spark Open 在 Mac Studio 上的多机部署方案,适合实测本地跑 8160 亿参数模型的生成速度与隐私优势。

10月15日周四
  1. 公众号 · 差评X.PIN78

    英伟达发布 RTX Spark N1X 超级芯片,CPU 与 GPU 集成于一颗 SoC

    英伟达在旧金山 NVIDIA Spark Editor's Day 闭门会上发布全新超级芯片 RTX Spark 系列,最高 20 个 CPU 核心、6144 个 CUDA 核心,通过 NVLink-C2C 实现 600GB/s 互连带宽,最大支持 128GB LPDDR5X 统一内存。

    选题角度:作者现场拿到联想 YOGA Pro 15 RTX Spark 真机,跑分、本地部署 Qwen3.8 和《赛博朋克2077》实测数据齐全,适合做上手实测与 x86 平台对比。

  2. 公众号 · 智东西78

    英伟达RTX Spark真机上手:本地智能体实测与N1X芯片拆解

    智东西上手体验了16英寸华硕ProArt创16 RTX Spark笔记本电脑,该机搭载20核Grace CPU、6144核Blackwell RTX GPU、64GB统一内存和1TB固态硬盘,FP4精度下AI峰值算力1PFLOPS,美版售价约合人民币2.94万元。

    选题角度:作者实测华硕ProArt创16 RTX Spark跑本地智能体,读论文、整发票、辅助评测都有真实耗时和翻车细节,适合做上手实测。

  3. NVIDIA Blog60

    NVIDIA 发布 Nemotron 3.5 Super VL 与两款 Bolt 端侧模型

    NVIDIA 发布开源 1200 亿参数模型 Nemotron 3.5 Super VL,主打多模态智能体任务,官方称其吞吐量最高可达同类模型的 5 倍,精度接近 NVIDIA 最大推理模型而参数量约为其五分之一。

    选题角度:原文给出三款开源模型的参数、显存占用和开放下载入口,适合上手实测 Super VL 的视觉文档解析与 Bolt 在本地跑智能体的效果。

  4. 公众号 · 智东西67

    华为首次详解麒麟9050系列:韬定律、逻辑折叠与端侧30B大模型

    华为在上海举办为期两天的技术沟通会,首次详细解读麒麟9050系列背后的韬定律、逻辑折叠与混合键合等技术细节,这是时隔6年华为再次对外详解麒麟芯片。麒麟9050 Pro高速通道数超过5000万个,混合键合间距做到1.5微米,逻辑折叠带来CPU主频提升12.7%、GPU性能提升40%、NPU算力提升140%。端侧30B大模型通过多级存算协同与联合量化方案,用2.5GB内存实现终端运行。

    选题角度:华为首次详解麒麟9050系列的韬定律与逻辑折叠,可拆解混合键合1.5微米间距和端侧30B大模型跑通这两个硬核细节。

  5. 公众号 · 智东西71

    库克确认苹果智能国行版10月底发布测试版,阿里千问获批

    苹果董事会执行主席库克10月15日在上海接受采访时确认,苹果智能将于10月底在国内发布测试版本,相关阿里千问大模型已获批准,首批功能包括实时翻译、书写工具、照片清除工具,但不含Siri AI。

    选题角度:库克在上海确认苹果智能国行测试版10月底上线,并点名阿里千问获批,适合梳理国行功能清单与正式版时间表。

  6. The Verge · AI78

    Eiliko 机器人玩具被曝泄露 1300 万条对话,黑客可远程劫持其 LLM 人格

    The Verge 记者 Sean Hollister 实测发现,Energize Lab 的 Eiliko 机器人玩具会把用户对话明文存到中国服务器,安全研究者 Sammy Azdoufal 可读取 1300 万条对话、访问全球约 68000 台设备,其中美国超 31000 个档案属于儿童。

    选题角度:记者实测对话被实时转录、黑客远程改写玩具人格,适合围绕隐私泄露与LLM被劫持做热点评论。

  7. X · 宝玉71

    苹果计划 12 月随 iOS 27.3 在国行 iPhone 上线 Apple Intelligence,采用阿里模型且无新版 Siri

    据彭博社 Mark Gurman 报道,苹果准备在 12 月通过 iOS 27.3 更新为国行 iPhone 开通 Apple Intelligence,苹果和监管部门均未正式确认。

    选题角度:据彭博社报道国行 Apple Intelligence 定档 12 月随 iOS 27.3 上线,可围绕首发功能清单与缺席的新版 Siri 做一期热点评论。

10月14日周三
  1. 公众号 · 硅星人Pro71

    Anthropic 用 15 台电视盒子跑起 260 亿参数模型,并演示 AI 自我复制

    Anthropic 研究人员把 15 台单价约 55 美元、4GB 内存的安卓电视盒子联网,分布式跑起 260 亿参数的 Gemma4-26B-A4B,速度仅 0.39 tokens/秒。

    选题角度:Anthropic 用 15 台 55 美元电视盒子跑 260 亿参数模型,可实测 0.39 tokens/秒的分布式推理速度,并演示小模型自我复制的四阶段流程。

  2. 量子位78

    面壁开源 MiniCPM-V 4.7:35B MoE 模型断网在 iPhone 上跑,仅占 3G 内存

    面壁智能和 OpenBMB 开源 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型,约 3G 内存即可在 iOS、安卓设备上运行。

    选题角度:断网状态下在 iPhone 上实测 35B MoE 多模态模型,从拿破仑行军图到家庭电费表逐题演示,适合录屏复现端侧跑大模型的效果。

  3. Hugging Face Blog60

    Liquid AI 发布 LFM2.5-24B-A2B,24B 参数仅 2B 激活的端侧推理模型

    Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有 Agent,已在 Hugging Face 开源权重。

    选题角度:Liquid AI 开源 24B-A2B 端侧推理模型,给出 M5 Max 上 184 tok/s 的实测数据和与 Qwen3.6-35B-A3B 的基准对比,适合上手实测本地跑 Agent 的速度与工具调用表现。

  4. 公众号 · 差评X.PIN58

    苹果发布智能家居中枢 HomeView 及新款 Apple TV、HomePod mini 2

    苹果在官网发布智能家居新品,包括全新智能家庭中枢 HomeView、新款 Apple TV 4K 和 HomePod mini 2。HomeView 配备 7 英寸 Liquid Retina 屏幕、A18 芯片并支持 Siri AI,桌面版和墙面版两种形态,美国售价 299 美元,Siri AI 目前只在少数国家支持英语。

    选题角度:苹果发布智能家居中枢 HomeView 及两款迭代新品,可对比 299 美元 HomeView 与米家、Ring 门铃的价格差,聊苹果智能家居生态的短板。

10月13日周二
  1. 公众号 · 赛博禅心67

    苹果发布 HomeView 家庭中枢,7 英寸屏内置 Siri AI

    苹果发布 HomeView 家庭中枢,一台 7 英寸屏幕设备,可听歌、打 FaceTime、管理智能家居,内置新版 Siri AI,售价 $299,今天开始预订,11 月 13 日发售。

    选题角度:苹果 HomeView 的 7 英寸家庭中枢已开放预订,可围绕 6 人识别、Siri AI 与隐私隔离设计做上手解读。

  2. 公众号 · 智东西60

    阶跃终端发布首款大模型原生智能体手机STEPX Neo

    阶跃终端在10月13日发布会上推出首款大模型原生智能体手机STEPX Neo,从模型、Step AOS系统到硬件围绕智能体重新构建,主打“人机共生”。该机采用六麦克风矩阵、Whisper 1.0算法与低功耗音频感知芯片,机身背面配有独立智能体背屏显示对话的六个状态,并通过端云协同让Step Edge端侧基座模型处理轻量任务、云端旗舰模型负责复杂推理与多步骤规划。

    选题角度:阶跃终端发布首款大模型原生智能体手机STEPX Neo,可围绕3999元全栈定价和每月百亿Token额度做上手解读。

  3. 公众号 · 智东西78

    面壁智能发布 MiniCPM-V4.7 端侧多模态大模型,35B-A3B 版本约 3GB 内存即可运行

    面壁智能发布新一代端侧多模态大模型系列 MiniCPM-V4.7,包含 35B-A3B 与 1B 两个版本,官方称 35B-A3B 是首个能在手机端流畅运行且能力无损的开源大模型。

    选题角度:面壁智能发布端侧多模态模型 MiniCPM-V4.7,官方给出手机端 3GB 内存跑 35B-A3B 的实测数据,适合上手实测端侧推理速度与图文识别效果。

  4. NVIDIA Blog60

    NVIDIA 为 RTX Spark 笔记本铺开本地 AI 应用生态

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并联合生态伙伴推出面向本地 AI 智能体的软件更新。首发更新包括 GitHub Copilot、Hermes、OpenClaw、Perplexity、Pi 和 WorkBuddy 等智能体应用的安装优化与 OpenShell、MXC 安全沙箱支持,以及开源模型路由库 NVIDIA Switchyard。

    选题角度:原文列出 RTX Spark 首发可用的本地智能体应用、Nemotron 3.5 Bolt 74B 与 PAIR 正式版,适合上手实测本地跑智能体的安装与路由体验。

10月8日周四