跳到正文
arXiv Artificial Intelligence· Le Qiu, Zhuan Anne Zhang, Hok Ming Adeline Chan, Emmanuele Chersoni·· 18 小时前AI 评分34

香港建筑行业消防安全规范解读基准:12 个 LLM 评测

Towards a Benchmark for Fire Safety Code Interpretation in the Hong Kong AEC Industry

AI 导读

研究团队与领域专家合作构建了香港消防安全规范的本地化基准数据集,包含多选题与开放式问题,评测了 12 个专有和开源 LLM。表现最好的专有模型在多选题上达到 80-90% 准确率,开源模型普遍落后;但在开放式评测中,专家人工评估显示准确率仅为 50-70%,表明 LLM 在专业合规任务上仍有较大提升空间。

来源:arXiv Artificial Intelligence · arxiv.org