跳到正文

创作方向

数据与训练 最新动态

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

31 条精选近 30 天 31 条共收录 211 条

更新

数据与训练的精选

10月18日周日第 1–20 条
  1. 公众号 · APPSO74

    Google 出价 1000 万美元收购破产 Spirit 航空数据用于训练 AI

    Google 出价 1000 万美元收购已破产的 Spirit 航空约 30 年内部数据,包括约 1 亿封电子邮件、5 亿条 Microsoft Teams 记录、1700 万份 OneDrive 文件和约 3000 万行代码,用于改进产品和训练 AI 模型。

    选题角度:从破产航空公司的邮件、Teams 记录和代码被卖给 Google 训练 Agent 切入,讲清企业工作现场数据为何稀缺、员工隐私为何被排除在保护之外。

  2. Reddit · AI 大众社区58

    HUMXN 在三城提供免费水管与暖通维修,换取机器人训练数据

    AI 公司 HUMXN 在明尼阿波利斯、芝加哥和迈阿密推出免费水管、电气、暖通等上门维修服务,条件是收集真实作业数据。技师在作业中佩戴可穿戴录制设备,记录如何排查问题、选择工具和完成维修,目的是让 AI 系统学习熟练工人与物理世界交互的过程,而不是只依赖互联网上的文本和图像。发帖者还提出疑问,这类真实工作数据是否是让物理 AI 和机器人真正实用的关键,以及用户是否愿意用免费维修换取家中作业被录制。

    选题角度:HUMXN 在三个城市用免费上门维修换真实作业录像,适合围绕具身智能训练数据从哪来讲这件事。

  3. Reddit · AI 大众社区58

    用户用 ChatGPT 和 Codex 在 17 年前的 NASA 数据中发现潜在系外行星

    一位 Reddit 用户用 Codex 搭建工具筛查 Kepler 和 TESS 数据,在 KIC 5689121 这颗距地球约 970 光年的红矮星上发现周期 13.77 天的未编目亮度下降信号,若为行星其半径约为地球的 2.5–3 倍。

    选题角度:作者用 Codex 写工具在 Kepler 旧数据里筛出周期 13.77 天的候选信号,可讲这套像素级排查流程和 6.9% 的误报率意味着什么。

  4. Reddit · AI 创作社区62

    Fizgig 发布 LoRA Isolation 流程,训练双身份 LoRA 不再串脸

    Fizgig 作者发布 LoRA Isolation 训练流程,可把两个身份训练进同一个 LoRA,同时避免其他人脸被替换成训练对象。在 Krea 2 上同图同设置的对比中,普通 LoRA 让 50 个陌生人中的 48 个变成训练对象,LoRA Isolation 为 0 个,训练对象相似度基本持平(ArcFace 0.78 对 0.77)。

    选题角度:作者给出 LoRA Isolation 的前后对比数字和演示视频,适合拍同组图片下普通 LoRA 与隔离 LoRA 的串脸效果对比。

10月17日周六
  1. 公众号 · 新智元爆款68

    Anthropic 发布两份内部报告:员工预计 2030 年 AI 完成 95% 造模型工作

    Anthropic 连发《Anthropic 内部就业变化》和 AI 预期调查两份内部报告,1334 名员工平均认为四年后 AI 能完成自己 75% 的工作,美国打工人同一问题的答案是 28%。

    选题角度:Anthropic 两份内部报告给出员工与公众对 AI 替代工作的认知落差,适合做热点评论,用 75% 对 28% 这组数字切入。

  2. 公众号 · 硅星人Pro72

    字节前实习生田柯宇干扰模型训练事件证据整理公开

    10 月 12 日,指控字节跳动前实习生田柯宇干扰模型训练的更详细证据整理公开,列出五位实名证人以及代码、操作时间线和训练异常记录。材料称其破坏从 2024 年 3 月持续到 7 月,涉及模型权重、优化器、数据采样和分布式通信等环节,包括把优化器 maximize 设为 True、将梯度裁剪系数强行设为 2、让各进程随机种子不一致等改动。

    选题角度:原文逐行拆解了改优化器、放大梯度、随机跳过通信等具体代码,适合做一期训练排障视角的技术复盘。

10月16日周五
  1. 公众号 · 新智元60

    OpenAI前研究员Nick Cammarata发布长文:约90%神经元各有一个主要任务

    OpenAI前研究员Nick Cammarata与Goodfire团队发布长文《神经网络早已「干净」》,提出神经网络内部计算有规律可循,而非一团混乱。团队在320亿参数语言模型中分开统计神经元正负响应,粗略估计约90%各有一个主要任务,约2%至4%仍未理解,并公开了1000份随机神经元研究报告。

    选题角度:原文给出钱包归还、圣诞老人等具体神经元干预实验和90%神经元单一任务的统计,适合做可解释性研究的效果对比解读。

10月15日周四
  1. The Decoder78

    GPT-6-Astra在50道理论物理研究题中解出49道,单题成本约2.40美元

    一项新基准测试让商用AI智能体在无人类提示下解50道理论物理研究题,运行在OpenAI Codex环境中的GPT-6-Astra答对49道(98%),平均每题成本不到3美元,整轮约116美元。

    选题角度:原文给出50道理论物理题的完整榜单和每题成本,适合做一次多模型同题实测对比,重点看GPT-6-Astra与Opus 5.5的差距和联网与否的分数变化。

  2. X · 宝玉71

    Anthropic 向投资人通报蒸馏收入占营收 5% 到 7%,三季度已大幅削减

    Anthropic 周三向投资人通报,蒸馏带来的收入占公司营收的 5% 到 7%,第三季度已把这部分大幅削减,消息来自 FT 援引四位知情人士,The Information 也报道了同样区间。

    选题角度:围绕蒸馏收入占 Anthropic 营收 5% 到 7% 且三季度大幅削减这一通报,适合做热点评论,讲清对手付费调用 Claude 训练自家模型这条链条。

  3. 公众号 · 智东西67

    华为首次详解麒麟9050系列:韬定律、逻辑折叠与端侧30B大模型

    华为在上海举办为期两天的技术沟通会,首次详细解读麒麟9050系列背后的韬定律、逻辑折叠与混合键合等技术细节,这是时隔6年华为再次对外详解麒麟芯片。麒麟9050 Pro高速通道数超过5000万个,混合键合间距做到1.5微米,逻辑折叠带来CPU主频提升12.7%、GPU性能提升40%、NPU算力提升140%。端侧30B大模型通过多级存算协同与联合量化方案,用2.5GB内存实现终端运行。

    选题角度:华为首次详解麒麟9050系列的韬定律与逻辑折叠,可拆解混合键合1.5微米间距和端侧30B大模型跑通这两个硬核细节。

  4. 公众号 · 新智元60

    清华团队开源 Puro-2B:RTX 5090 预训练成本不到 5090 美元

    清华大学陈文光、吕凯风团队推出全流程开源的 Puro-2B(普罗-2B),开源训练数据、训练框架、训练配置和模型权重,在 RTX 5090 集群上从头训练约 20 亿参数模型,最多使用 1.4 万亿 token。

    选题角度:清华团队开源 Puro-2B 全流程,用 RTX 5090 以约 4400 美元预训练成本在 15 项任务上超过 Qwen2-1.5B,适合拆解这套低成本预训练配方。

  5. 公众号 · 智东西62

    蚂蚁百灵 Ling-3.1-flash 开源,智东西实测办公与复杂 Agent 任务

    蚂蚁百灵于9月30日发布、今天正式开源的 Ling-3.1-flash,总参数量约560B,每 Token 激活参数约25B,上下文窗口上限1M,重点面向日常办公、长周期软件研发和复杂 Agent 任务。

    选题角度:围绕编辑部真实办公与开发任务实测 Ling-3.1-flash,从财报可视化网页到3D桃花源、手机新闻App原型,展示长程Agent交付完整度。

  6. 公众号 · 新智元71

    禾赛发布全球首款8K AI空间相机Kosmo One与三维世界数据引擎Kosmo

    禾赛于10月14日发布三维世界数据引擎Kosmo与云平台Kosmo World,并推出全球首款集成8K影像系统的AI空间相机Kosmo One。Kosmo One把激光雷达、8K影像系统、一英寸大底CMOS和高精度IMU装进同一台设备,几何精度达毫米级,镜头最高采集8K、成片最高6K,普通室内100平米约15分钟扫完。

    选题角度:禾赛发布Kosmo空间相机与Kosmo World云平台,可围绕皮克斯用它在园区扫描并接入RenderMan渲染的案例,做一次三维重建效果对比实测。

10月14日周三
  1. 公众号 · 硅星人Pro58

    英伟达一年砸近400亿美元收购,从算力公司转向前沿模型实验室

    英伟达在不到一年内通过技术许可、人才吸收、股权投资和收购,在Poolside、Hugging Face、Groq、Essential AI、Reflection等项目上投入规模接近400亿美元。

    选题角度:英伟达一年内近400亿美元连续收购Poolside、Hugging Face等,可梳理每笔交易的结构差异和它从卖算力转向自研前沿模型这条主线。

  2. 公众号 · 新智元62

    亚历山大王自曝 Meta 千亿豪赌 Muse Wonder 内幕

    Meta AI 负责人亚历山大王在 Stripe 联合创始人 John Collison 的播客《Cheeky Pint》中自曝,扎克伯格在前沿模型尚未完成技术验证时就拍板投入 1000 亿至 2000 亿美元基础设施,CFO Susan Li 曾私下警告他若研发失败财务后果非常严重。

    选题角度:亚历山大王在播客里自曝 Meta 押注千亿豪赌 Muse Wonder 的内幕,适合剪成访谈金句加跑分与实测争议的对比评论。

10月12日周一
  1. X · Bilawal Sidhu58

    用真实飞行数据在旧金山数字孪生中重建 Fleet Week

    Bilawal Sidhu 用真实的飞行和船舶追踪数据,在旧金山的写实数字孪生中重建了 Fleet Week 三维场景。相机引擎读取飞行遥测数据,在恰当时机跟踪每架战机并做速度渐变。他表示,以俯瞰视角重现任何城市任何事件,比人们想象的更近。

    选题角度:作者用真实飞行与船舶追踪数据在旧金山数字孪生里重建 Fleet Week,可拆解数据接入和相机引擎跟随飞行遥测的玩法。

10月11日周日
  1. 抖音 · 杨博士说AI78

    OpenAI 内部模型产出 722 篇数学证明文稿,陶哲轩等 20 位菲尔兹奖得主联署质疑

    OpenAI 在 GitHub 仓库放出一份 722 篇数学证明文稿的清单,覆盖 372 个成果族、17 个方向,全部由尚未发布的内部前沿模型在评估中产出,平均每个结果消耗约相当于 3 小时 ChatGPT Pro 思考的算力。

    选题角度:OpenAI 内部模型两周内产出 722 篇数学证明文稿,其中 235 组附形式化证明,可围绕数学家联署质疑与形式化验证的争议做热点评论。

10月9日周五
  1. 公众号 · 赛博禅心71

    Anthropic 联合天文学家完成首张完整全天紫外地图

    Anthropic 发布科学博客,约翰斯·霍普金斯大学天体物理学家 Brice Ménard 用 Claude Science 做出第一张完整的全天紫外地图,其中约三分之一天空从未被紫外望远镜观测过,由 Claude 预测补出,并逐像素标注实测或预测及误差估计。

    选题角度:用 Claude Science 把 GALEX 等公开紫外数据补齐成全天图,可讲清四步流水线和 10% 误差的实测对比。

  2. X · Anthropic58

    天体物理学家用 Claude 完成首张全天紫外图

    天体物理学家 Brice Ménard 与 Claude Science 合作,制作出首张完整的全天紫外图。他引导 Claude 找到已有数据集、把它们合并,并用统计推断补上从未被观测过的天区。

    选题角度:天体物理学家用 Claude 找数据集、做统计推断补全紫外天图,几周工作量压到几天,适合讲 AI 接手科研里没人做的低优先级活。