跳到正文
arXiv Artificial Intelligence· Yuchuan Weng, Chi Liu, Xin Chen, Srinivasan Manoharan·· 18 小时前AI 评分45

一次前向传播完成类型化决策:从内部裁判到开放 LoRA 模型

Our Own Jev: Typed Decisions in One Forward Pass, from an In-House Judge to Open LoRA Models

AI 导读

研究团队用一次前向传播读取语言模型 logits 或隐藏状态上的小型指针头,为每个选项直接输出概率,替代生成并解析文本。内部裁判以 rank-16 LoRA 适配器和指针头在单 GPU 上约三分钟判完 1000 条会话,成本约 $0.06,约为前沿 LLM 裁判的 1%。

来源:arXiv Artificial Intelligence · arxiv.org