arXiv Artificial Intelligence· Yuntao Du, Harsh Chaudhari, Yuetian Chen, Ron Heichman, Ashish Jayamohan, Kumar Pallav, Mahim Patel, Kaiyuan Zhang, Kyle Polley, Jerry Ma, Ninghui Li·· 2 小时前AI 评分40
RATION:面向 AI 智能体的定量风险访问控制框架
RATION: Towards Quantitative Risk-Based Access Control for AI Agents
AI 导读
RATION 是一个面向 AI 智能体的安全框架,通过跟踪任务执行中累积的可量化风险并施加定量约束来实现访问控制。它先结合用户请求中的显式约束与相似任务历史执行校准出的隐式风险构建任务专属策略,执行中持续跟踪风险并按风险类型采取不同执行策略。在四个安全基准上的实验显示,RATION 在多种模型和环境下兼顾了强安全性与高任务效用。
来源:arXiv Artificial Intelligence · arxiv.org