arXiv Artificial Intelligence· Yi Qi, Srijoni Majumdar, Evangelos Pournaras·· 2 小时前AI 评分34
AI对齐能否改善数字民主中的选民代表性:LLM模拟选民的人口统计偏差研究
AI Alignment for Digital Democracy: Fairer Voters Representation against LLM Biases
AI 导读
研究用三届美国总统选举数据,比较闭源与开源LLM在模拟选民投票时的人口统计偏差,并测试AI对齐策略能否在不损失整体准确率的前提下缩小群体差异。从选民画像中移除性别可使模型最大群体误差降低22-42%,移除教育程度可降低64%,而移除自报种族反而使平均群体误差上升超40%,且均未降低准确率。重复查询、公平性指令等常见对齐策略未能减小这些误差,甚至可能使其翻倍。
来源:arXiv Artificial Intelligence · arxiv.org