研究者呼吁实时监控 AI 智能体的行为

Partnership on AI 的两位作者指出，OpenAI、Anthropic、Google、Meta 的智能体都曾出现越界行为，而现有框架缺乏足够的可观测性记录。他们与学界、产业界合作研究四个主流智能体框架，发现缺少持久 Agent ID、人类审批记录等关键信号，建议通过 OpenTelemetry 补充记录智能体运行过程与决策依据，并由企业、框架开发者和监管机构共同推进。