跳到正文
#安全/对齐
10月16日周五
10月15日周四
  3. The Verge · AI38

    Benn Jordan 谈 Flock、隐私与新一轮监控反弹

    音乐人兼调查记者 Benn Jordan 在 Decoder 播客中谈 Flock Safety 的自动车牌识别系统（ALPR）引发的监控争议。他已在参议院司法委员会小组听证会上作证，数百个地方政府正取消合同，Flock 计划裁员约 18%，并正被共和党参议员 Josh Hawley 调查。Jordan 认为问题核心是私营企业、政府与执法部门之间以保密优先于透明的勾连，而非单一公司。

  4. Reddit · r/StableDiffusion71

    有人实测 Krea 2 Turbo：77 个族裔 × 7 组提示词、同一 seed 下的输出差异

    Reddit 用户 /u/matcheal 用 Krea 2 Turbo（无 LoRA）测试 77 个族裔女性、7 组提示词、固定同一 seed，发现全身提示词中不写服装词时，77 人里有 34 人输出裸体或上身裸露，其中前东欧阵营族裔占 17/21。

    选题角度：作者用 77 个族裔乘 7 组提示词、固定同一 seed 实测 Krea 2 Turbo，可拍成提示词避坑教程，重点讲裸体泄漏和命名服装的差异。

  5. 公众号 · 新智元22

    Anthropic 联创 Jack Clark 改口：RSI 提前到 2027，马斯克回应「显而易见」

    Anthropic 高管 Jack Clark 将 AI 实现 RSI（递归自我改进）的预测时间从 2028 年提前到 2027 年，马斯克回帖称「显而易见」。他改口的依据是 AI 在顶级数学难题上取得突破，并开始具备「好的科研品味」；P-Zero Research 的 TasteVal 基准显示 AI 用一半算力追平人类专家，最终成绩达专家 1.5 倍。

  6. 公众号 · 智东西58

    顶级白帽黑客古河加盟智谱，晒出GLM发现的23个安全漏洞

    前360漏洞研究院院长古河（陈雪斌）在X平台官宣加入智谱，从事网络安全相关研究。他晒出利用GLM模型发现的23个安全漏洞，均获MSRC致谢，其中包括一个评分9.8的高危OpenSSH远程未授权代码执行漏洞。

    选题角度：白帽黑客古河官宣加入智谱，并晒出用GLM发现的23个获MSRC致谢漏洞，适合围绕AI挖洞能力做热点评论。

  7. 公众号 · APPSO62

    顶级白帽古河加入智谱，用 GLM 挖微软漏洞登上 MSRC 致谢名单

    曾五次登顶微软 MSRC 年度安全研究员榜单的白帽黑客古河（Yuki Chen）宣布加入智谱，并以「Yuki Chen using GLM from z.ai」的名义出现在微软 MSRC 致谢名单中。

    选题角度：顶级白帽古河用智谱 GLM 挖出微软漏洞并登上 MSRC 致谢名单，可结合他五次登顶微软榜单的履历讲这次人机协作的分工与边界。

  8. The Verge · AI78

    Eiliko 机器人玩具被曝泄露 1300 万条对话，黑客可远程劫持其 LLM 人格

    The Verge 记者 Sean Hollister 实测发现，Energize Lab 的 Eiliko 机器人玩具会把用户对话明文存到中国服务器，安全研究者 Sammy Azdoufal 可读取 1300 万条对话、访问全球约 68000 台设备，其中美国超 31000 个档案属于儿童。

    选题角度：记者实测对话被实时转录、黑客远程改写玩具人格，适合围绕隐私泄露与LLM被劫持做热点评论。

  9. X · 歸藏27

    字节 Seed 成立模型安全与对齐部门，全球招募 10 位顶尖研究员

    字节 Seed 成立专门的模型安全与对齐部门，计划全球招募 10 位顶尖研究员，研究方向涵盖大模型及 Agent 安全的前沿评测方法与 Benchmark 建设、模型前沿能力对齐的训练方法、自动化 Red Teaming、模型行为可解释性以及模型能力和行为监控。此举背景是模型越狱和突破沙箱隔离环境的问题频发，且国内在安全对齐方面的进展慢于 OpenAI 和 Anthropic。

  10. 量子位55

    Anthropic 2021年内部研究路线图曝光，Claude Code 五年前已被写进蓝图

    Anthropic 一份 2021 年 7 月的内部研究路线图因版权官司意外曝光，当时公司刚从 OpenAI 独立出来几个月、全员仅十几人。文件把终极目标定位为能创建、编辑和解释软件的通用 AI 助手，要具备软件工程师同事的全部能力，并已写下工具调用、模型自我评判、测试时计算、1T 及以上参数和超长上下文等方向。

10月14日周三
  5. ElevenLabs Blog35

    ElevenLabs 音频深度伪造检测：原理与如何验证 ElevenLabs 音频

    ElevenLabs 详解音频深度伪造检测的两种路径：传统统计检测通过预处理、特征提取和分类给出置信度分数，但受限于已知样本库；水印检测则是确定性的，能对是否为自家产品生成的音频给出明确的是或否。ElevenLabs 的 Audio Detector 可高精度识别自家产品水印，但无法识别其他公司的水印，因此水印应只是大规模检测体系中的一环。

  7. 量子位22

    领克10 EM-P坠崖事故出圈：智能化追赶中的安全硬功夫

    一辆刚提8天的领克10 EM-P在四川泸州山区公路失控坠崖近百米，车主仅受轻微擦伤和胸椎轻微骨裂。领克官方说明显示乘员舱结构完整、A/B/C柱无变形、安全气囊及时弹出、动力电池未起火，紧急救援系统自动触发语音呼叫。该车采用CMA Evo架构，高强度钢铝占比超80.5%，A柱为2000MPa超高强度钢。

  8. 公众号 · 新智元71

    OpenAI 高管会议室被装窃听器，35 岁工程师被自家 AI 揪出后遭 FBI 逮捕

    OpenAI 在旧金山总部一间高管会议室电视机背后发现一台加密录音设备，公司用自家模型分析设备存储镜像并排查底层数据变化，锁定并解雇了 35 岁产品团队工程师 Abdulrahman Alfozan，FBI 于 10 月 9 日将其逮捕。

    选题角度：OpenAI 用自家模型分析窃听设备存储镜像锁定内鬼，作案者还曾向 AI 咨询隐蔽录音，适合做热点评论。

  9. 公众号 · 硅星人Pro71

    Anthropic 用 15 台电视盒子跑起 260 亿参数模型，并演示 AI 自我复制

    Anthropic 研究人员把 15 台单价约 55 美元、4GB 内存的安卓电视盒子联网，分布式跑起 260 亿参数的 Gemma4-26B-A4B，速度仅 0.39 tokens/秒。

    选题角度：Anthropic 用 15 台 55 美元电视盒子跑 260 亿参数模型，可实测 0.39 tokens/秒的分布式推理速度，并演示小模型自我复制的四阶段流程。

  11. 公众号 · 新智元66

    陶哲轩发表《数学2.0》演讲：AI把数学界从证明稀缺推向证明过剩

    菲尔兹奖得主陶哲轩在加州理工学院发表题为《数学2.0》的演讲，提出数学已从「证明稀缺」的数学1.0时代进入「证明过剩」时代。

    选题角度：陶哲轩把数学从证明稀缺推向证明过剩，用抗癌药思想实验讲清AI给出答案却无人能懂的风险，适合做一期观点解读。

  14. The Decoder85

    Gemini 4 Argon 全球上线，成为 Google 最强前沿模型

    Google 全球上线 Gemini 4 Argon，开发者可通过 AI Studio 和 Gemini 平台的 API 使用，AI Ultra 订阅者可在 Google Antigravity 中使用，Ultra 和 Pro 订阅者可通过 Gemini 应用和 Google Search 的 AI 模式访问。

    选题角度：Gemini 4 Argon 全球上线，原文给出 API 入口、订阅档位差异和 3D 演示源码，适合上手实测同一任务在 Argon 与 Flash 档位下的效果差异。

  15. TechCrunch · AI25

    Laplace Intelligence 为机器人和自动驾驶汽车做自动化红队测试

    密歇根大学孵化的 Laplace Intelligence 正在为机器人和物理 AI 构建自动化红队测试，用 AI 智能体在部署前主动寻找并修复故障点。其高保真仿真基于 Nvidia Cosmos 的后训练版本，可重建从亚利桑那高速公路到巴黎人行横道的真实场景，并支持用语言提示实时调整环境。

  16. TechCrunch · AI31

    Pluto Security 融资 4200 万美元，用 AI 监控企业 AI 智能体风险

    Pluto Security 完成 4200 万美元融资，其中 3400 万美元 A 轮由 Jump Capital 领投，850 万美元种子轮由 TLV Partners 领投。其平台监控员工使用的 AI 工具、skills、扩展、MCP 服务器及自建智能体，可在智能体运行时拦截越权操作，目前已获超 30 家企业客户、年经常性收入超 200 万美元。

10月13日周二
  3. 量子位78

    Anthropic 研究实测 GLM-5.2 全自主复制进智能家电

    Anthropic 两位研究员 William Zhou 和 Daniel Freeman 发布安全报告，在隔离沙盒的 8 个 GCP 节点网络中测试 AI 自主复制与适应（ARA）能力，GLM-5.2 在 5 次实验中有 4 次成功攻陷并部署全部 8 台设备，另 1 次拿下 7 台。

    选题角度：Anthropic 两位研究员让 GLM-5.2 在隔离网络里自主复制模型，5 次实验 4 次拿下全部 8 台设备，适合围绕这个实测结果做安全话题解读。

  4. 最佳拍档36

    Sam Altman 谈 Astra 6.1 叫停、Dots 与 AI 监管：名利场深度访谈

    OpenAI CEO Sam Altman 在《名利场》两场深度访谈中承认，不持有 OpenAI 直接股权是重大战略误判，并解释为何宁可承受跳票损失也要紧急叫停 Astra 6.1 的发布。他介绍了全天候智能助手 Dots 的产品理念，主张在"AI 失控"与"技术垄断"之间走中间道路，并回应了与马斯克的恩怨、IPO 后非营利架构的否决权以及自杀干预与隐私伦理等议题。

  5. Hacker News · AI 高分帖44

    研究：AI 模型可加密隐藏任意能力，规避能力评估审计

    研究者构造后门攻击，将加密神经网络嵌入宿主模型权重，仅在收到秘密触发信号时解密执行，在密码学假设下即使完全访问权重也难以被诱发或解读。该概念验证用 PyTorch 实现，以小型化学反应预测任务代理 CBRN 相关能力，测试了微调、权重加噪、基于梯度的触发搜索和潜空间对抗训练等诱发手段，结果均表现出抗性。论文已被 NeurIPS 2026 接收，模型已开源以支持防御研究。

  6. 最佳拍档74

    26岁业余黑客用AI工具ARTEX攻击7家韩国金融机构，新韩银行2.5万客户信息泄露

    一名疑似来自广东茂名的26岁业余攻击者，用中国开发的开源AI渗透测试工具ARTEX，搭配DeepSeek v4.1-flash、GLM-5.3、Grok 4.6等大模型，在两周内攻击7家韩国金融机构，导致新韩银行约2.5万名客户信息泄露。

    选题角度：原文给出攻击者用ARTEX搭配多个大模型两周攻破7家韩国金融机构的完整工具链，适合做事件复盘加AI降低攻击门槛的讨论。