arXiv Artificial Intelligence· Chunxiao Li, Yuan Xiong, Lijun Li, Tianyi Du, Wenlong Zhang, Lei Bai, Jing Shao·· 2 小时前AI 评分42
DeepSafe-SciHazard:用分解式危害评分衡量科学安全风险的基准
DeepSafe-SciHazard: A Benchmark for Measuring Scientific Safety Risks with Decomposed Harm Scoring
AI 导读
SciHazard 基准包含 12 个学科的 2400 条危险问题和 600 条过度安全(oversafety)问题,查询基于受监管实体和已记录的失效场景。配套的 DeHarm-Score 将查询危害严重度、拒答行为和回答级风险分解评分,对未拒答回答进一步拆解为可执行性与净新增风险,与专家标注的一致度比最强基线提升 90.17%。
来源:arXiv Artificial Intelligence · arxiv.org