FlowWise流式有状态模型服务系统论文发布

2026年10月15日，arXiv Artificial Intelligence 刊出论文《FlowWise：面向流式流量智能的有状态快慢模型服务系统》，作者为 Shinan Liu 等。论文提出 FlowWise，一个面向流式、有状态流量分析的服务系统，部署于通用 CPU/GPU 服务器，通过不确定性驱动的快慢级联：先用单包模型给出早期预测，仅将不确定的流升级到等待更多数据包的慢模型，从而在延迟、服务速率与准确率之间取得平衡。论文报告的性能数据为：能在 16 ms 内服务 76.3% 的流，中位端到端延迟改善 40.5 倍，并在单台 16 核 CPU 服务器上每秒处理超 48.5k 条新流。论文称 FlowWise 已开源，且该论文被 SoCC 2026 接收。目前尚无后续跟进报道，事件进展停留在论文发布与系统开源这一阶段。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。