复旦等机构发布LoLBench长程代码评测基准
热点事件持续更新
复旦等机构发布LoLBench长程代码评测基准
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
复旦大学、香港城市大学、香港中文大学等机构提出 LoLBench 评测基准,把 AI Agent 放进平均约 240 万行源代码的软件系统,考察其从功能提案到模块交付的完整过程。评测中 Agent 只拿到提案和实现前的代码仓,提案平均约 5000 个英文单词,并在断网 Docker 环境中运行以防检索上游实现,单任务限时 6 小时。 研究团队测试了 6 个前沿模型与 5 个脚手架的 28 个可用组合。Opus 5 搭配 Claude Code 或 mini-SWE-agent 以 14% 解决率并列最高,全部组合中位数仅 2%。
AI 根据报道生成 · 51 分钟前更新
最新进展11月4日 18:01
复旦等机构发布 LoLBench:5000 词需求文档下 Claude 最高仅交付 14%报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- 公众号 · 新智元复旦等机构发布 LoLBench:5000 词需求文档下 Claude 最高仅交付 14%
复旦大学、香港城市大学等机构提出 LoLBench,把 Agent 放进平均约 240 万行源代码的软件系统,评估从功能提案到模块交付的完整过程。28 种 Agent 组合中,Opus 5 搭配 Claude Code 或 mini-SWE-agent 以 14% 解决率并列最高,全部组合中位数仅 2%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。