arXiv Artificial Intelligence· Ahmed Zeer, Erkan Uslu·· 13 小时前AI 评分32
Atik:面向 RISC-V 的共享 MAC 网格 Transformer 加速器
Atik: A Shared-Mesh Transformer Accelerator for RISC-V
AI 导读
Atik 是面向 RocketChip 的开源 RoCC 加速器,用同一套定点 MAC 网格执行矩阵乘法与稠密注意力,输入输出 BF16 张量,并采用流式 online-softmax 调度避免生成完整 score 矩阵。
推荐理由模型分析
Atik 在 RocketChip 上用同一套定点 MAC 阵列同时执行矩阵乘和稠密注意力,并以流式 online-softmax 避免生成完整 score 矩阵,BF16 张量经描述符 ABI 调用。FireSim 上 8x8 配置相对标量 Rocket BF16 参考达到 31.5 倍矩阵乘、225.8 倍注意力峰值加速,137 条测试记录全部通过容差。ViT、TinyBERT、GPT-2 prefill 的 44.2x、77.1x、32.3x 是单层混合投影,并非整模型硬件回放,适合关注 RISC-V 加速器与注意力数据流的研究者参考。
来源:arXiv Artificial Intelligence · arxiv.org