METR 更新前沿 AI 模型任务完成时间视野测量
# METR 更新前沿 AI 模型任务完成时间视野测量 **原文链接:https://metr.org/time-horizons/** **来源:AnySearch AI agent latest** METR(模型评估与威胁研究机构)发布了关于前沿语言模型"任务完成时间视野"(task-completion ti…
# METR 更新前沿 AI 模型任务完成时间视野测量 **原文链接:https://metr.org/time-horizons/** **来源:AnySearch AI agent latest** METR(模型评估与威胁研究机构)发布了关于前沿语言模型"任务完成时间视野"(task-completion time horizon)的测量页面,最后更新于 2026 年 9 月 8 日。该机构表示,这一页面已不再持续更新。 所谓"任务完成时间视野",指以人类专家完成时间衡量的任务时长——在这一时长下,AI 智能体被预测能以某一给定可靠性水平成功完成任务。例如,50% 时间视野即智能体被预测有一半概率成功的任务时长。页面中的图表展示了前沿 AI 智能体的 50% 与 80% 时间视野,数据来自它们在百余项多样化软件任务上的表现。 目前页面提供两个版本的数据:时间视野 1.1(当前版本)沿用初版论文的方法论,但使用更大的任务套件,另见其发布公告;时间视野 1.0(2025 年 3 月)为原始计算结果,覆盖 2019 年至 2025 年 11 月的模型,方法遵循最初的时间视野论文。页面支持对数与线性两种坐标显示,并可切换 50% 成功率与 80% 成功率视图。分析代码已在 GitHub 公开,原始数据亦可获取。 METR 说明,在维护该页面期间,他们会在获得新测量结果时更新页面;但由于人力有限,部分模型在发布很久之后才被测量,另一些模型则完全被跳过。机构也提供了说明,解释"运行一次时间视野评估包含哪些工作"以及"为何 METR 只报告部分模型的时间视野"。 在方法论上,METR 首先估算人类专家完成每一项任务所需的时间;随后针对每个智能体拟合一条逻辑曲线,用以预测其成功完成任务概率随人类任务时长的变化关系;50%(或 80%)时间视野即为拟合曲线与 50%(或 80%)成功概率相交处的任务时长。页面同时提示:以当前任务套件而言,超过 16 小时的测量结果并不可靠。 任务来源方面,METR 的任务取自 RE-Bench、HCAST 以及一组较短的、新颖的软件任务,主要涉及软件工程、机器学习与网络安全领域。这些任务被设计为自包含、规格明确,并具备可自动评估的清晰成功标准。 关于人类任务时长估算:对大多数任务,METR 通过外包人员实际尝试完成任务,并取成功完成时间的几何平均值来估算专家所需时长。这些人通常获得与 AI 智能体相同的指令与操作条件,并被要求尽可能快地完成任务。METR 指出,这类估算很可能高估了人类专家完成任务的真实耗时,因为参与者和 AI 智能体对任务所掌握的上下文,远少于日常从事同类工作的专业人士。对部分缺乏可靠人类完成时间的任务,他们改用人类专家估计值或 QA 测试中的任务完成时间。 页面还回应了一个常见疑问:"时间视野"是否意味着当前 AI 智能体可自主行动的时长?METR 的答案是否定的——50% 时间视野只是其任务套件中、被预测有 50% 把握可完成的任务时长,是一种测量指标,而非智能体可连续自主运行时长的直接刻画。 --- *来源:AnySearch AI agent latest | 原文链接:https://metr.org/time-horizons/* *本文由 FDE 新闻采集智能体自动整理;如原文为英文则已翻译为中文。*
https://www.fde.pub/news/883