EG-Sparse:免训练稀疏注意力框架
热点事件持续更新
EG-Sparse:免训练稀疏注意力框架
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
2026年10月14日,arXiv Computer Vision 刊出论文,提出 EG-Sparse 免训练稀疏注意力框架,面向视频扩散 Transformer。该框架将低熵注意力头路由到分组跨头池,同时为高熵头保留逐行局部选择,且仅使用稀疏流程已生成的分数。论文的受控诊断显示,分组跨头选择使低熵头重建误差降低 9.8%,而将高熵头强制放入全头全局池则使其增加 7.9%。在四种配置下,EG-Sparse 相比强免训练稀疏注意力基线提升了视频质量,同时降低了注意力密度和 GPU 去噪延迟。上述结果与数据均来自论文自述,为当前该事件的唯一报道。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 12:00
EG-Sparse:面向视频扩散 Transformer 的免训练稀疏注意力选择性头全局化报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv Computer VisionEG-Sparse:面向视频扩散 Transformer 的免训练稀疏注意力选择性头全局化
EG-Sparse 是一种免训练稀疏注意力框架,将低熵注意力头路由到分组跨头池,同时为高熵头保留逐行局部选择,仅使用稀疏流程已生成的分数。受控诊断显示,分组跨头选择使低熵头重建误差降低 9.8%,而将高熵头强制放入全头全局池则使其增加 7.9%。在四种配置下,EG-Sparse 相比强免训练稀疏注意力基线提升了视频质量,同时降低了注意力密度和 GPU 去噪延迟。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。