AgentPRM: Process Reward Models for LLM Agents via Step-Wise Promise and Progress
WWW 2026:为 LLM Agent 设计同时衡量步骤长期价值与局部进展的过程奖励模型。 当 Agent 在网页、游戏或工具环境中执行多步任务时,单个动作往往没有明确的对错标签。一个动作可能暂时偏离目标,却是后续成功的必要准备;另一个动作看起来接近目标,却可能把系统带入死路。只在任务结束后判断成功与否(ORM),又
GITHUB
正在加载贡献记录…
RECENT POSTS
WWW 2026:为 LLM Agent 设计同时衡量步骤长期价值与局部进展的过程奖励模型。 当 Agent 在网页、游戏或工具环境中执行多步任务时,单个动作往往没有明确的对错标签。一个动作可能暂时偏离目标,却是后续成功的必要准备;另一个动作看起来接近目标,却可能把系统带入死路。只在任务结束后判断成功与否(ORM),又
ICLR2026 解决LLM多智能体系统中的故障归因问题 当复杂的多智能体系统(如 MetaGPT、AutoGen 等)在执行任务失败时,系统往往会生成一条冗长复杂的执行轨迹。人工排查错误步骤和责任Agent犹如大海捞针。本论文提出了 AgentTracer 自动化数据构建框架和 AgentTracer-8B 轻量级故
ICSE 2026,主要研究Agent运行时的安全约束,设计跨领域、易插拔的模块化框架用于规范Agent行为并降低风险。 Agent不同于大模型,它能够感知环境、并调用工具影响外界环境。这意味着Agent的错误不同于LLM,它会切实地造成现实中的严重后果,需要严格地规范和审查。 该论文认为不同的使用场景对Agent行为
LET’S TALK
关于博客、项目,或任何想聊的话题。欢迎交流。
正在加载评论…