AgentSpec: Customizable Runtime Enforcement for Safe and Reliable LLM Agents
ICSE 2026,主要研究Agent运行时的安全约束,设计跨领域、易插拔的模块化框架用于规范Agent行为并降低风险。 Agent不同于大模型,它能够感知环境、并调用工具影响外界环境。这意味着Agent的错误不同于LLM,它会切实地造成现实中的严重后果,需要严格地规范和审查。 该论文认为不同的使用场景对Agent行为
THE NOTEBOOK
论文阅读、工程实践,以及值得留下的思考。
共 2 篇博客
订阅 RSS ↗ICSE 2026,主要研究Agent运行时的安全约束,设计跨领域、易插拔的模块化框架用于规范Agent行为并降低风险。 Agent不同于大模型,它能够感知环境、并调用工具影响外界环境。这意味着Agent的错误不同于LLM,它会切实地造成现实中的严重后果,需要严格地规范和审查。 该论文认为不同的使用场景对Agent行为
发表于2014 ICSE,主要研究self-adaptive system。 在传统软件工程系统中,需求分析负责研究需要解决的问题,而架构设计主要研究如何解决好问题。但在系统上线部署后,环境、负载和用户需求不是一成不变,架构和需求需要在运行时进行调整,需要设计动态变化的self-adaptive system。 现有的