跳到正文
arXiv Artificial Intelligence· Ahmed Zeer, Erkan Uslu·· 13 小时前AI 评分32

Atik:面向 RISC-V 的共享 MAC 网格 Transformer 加速器

Atik: A Shared-Mesh Transformer Accelerator for RISC-V

AI 导读

Atik 是面向 RocketChip 的开源 RoCC 加速器,用同一套定点 MAC 网格执行矩阵乘法与稠密注意力,输入输出 BF16 张量,并采用流式 online-softmax 调度避免生成完整 score 矩阵。

推荐理由模型分析

Atik 在 RocketChip 上用同一套定点 MAC 阵列同时执行矩阵乘和稠密注意力,并以流式 online-softmax 避免生成完整 score 矩阵,BF16 张量经描述符 ABI 调用。FireSim 上 8x8 配置相对标量 Rocket BF16 参考达到 31.5 倍矩阵乘、225.8 倍注意力峰值加速,137 条测试记录全部通过容差。ViT、TinyBERT、GPT-2 prefill 的 44.2x、77.1x、32.3x 是单层混合投影,并非整模型硬件回放,适合关注 RISC-V 加速器与注意力数据流的研究者参考。

来源:arXiv Artificial Intelligence · arxiv.org