跳到正文
热点事件持续更新

复旦等机构发布LoLBench长程代码评测基准

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

复旦大学、香港城市大学、香港中文大学等机构提出 LoLBench 评测基准,把 AI Agent 放进平均约 240 万行源代码的软件系统,考察其从功能提案到模块交付的完整过程。评测中 Agent 只拿到提案和实现前的代码仓,提案平均约 5000 个英文单词,并在断网 Docker 环境中运行以防检索上游实现,单任务限时 6 小时。 研究团队测试了 6 个前沿模型与 5 个脚手架的 28 个可用组合。Opus 5 搭配 Claude Code 或 mini-SWE-agent 以 14% 解决率并列最高,全部组合中位数仅 2%。

AI 根据报道生成 · 51 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. 公众号 · 新智元
    复旦等机构发布 LoLBench:5000 词需求文档下 Claude 最高仅交付 14%

    复旦大学、香港城市大学等机构提出 LoLBench,把 Agent 放进平均约 240 万行源代码的软件系统,评估从功能提案到模块交付的完整过程。28 种 Agent 组合中,Opus 5 搭配 Claude Code 或 mini-SWE-agent 以 14% 解决率并列最高,全部组合中位数仅 2%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。