信息流建模框架用于AI透明度与合规评估

2026年10月14日，arXiv Artificial Intelligence 发布两项相关研究。一项研究提出将 AI 决策系统的透明度视为一种关系：系统对某利益相关者透明，取决于其正当问题能否从系统结构中得到回答。作者用信息流网络形式化该框架，支持结构可回答性、跨组织边界的组合可回答性以及角色相关可回答性三个维度，并在某公共部门市政机构对一款 AI 招聘工具的真实预集成评估中演示，通过参与式设计与访谈建模决策系统结构，分析 Provider 与 Deployer 边界上的透明度问题。另一项研究将信息流方法论（IFM）用于 EU AI Act 合规评估，把算法、人工或混合决策系统表示为信息站点与转换通道构成的网络，以分析信息、决策与责任如何跨组织和技术边界流动；团队以某公共部门机构使用的招聘支持工具为真实案例，同时评估 Provider 的系统与 Deployer 的招聘流程，结果显示 IFM 可衔接组件视角与整体视角，支撑透明度、识别风险路径，并分析预期用途与实际用途之间的偏差。两项研究均以公共部门招聘工具为案例，但分别侧重透明度建模与合规评估。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。