Octave分享基于Amazon Bedrock的多租户AI基础架构

2026年10月21日，AWS机器学习博客发布Octave的一手分享，介绍其基于Amazon Bedrock构建安全多租户AI基础平台的设计。Octave采用Cohere Embed v4，搭建三层多租户AI基础架构，将20亿份文档嵌入各租户独立的OpenSearch向量库，并把单用例部署时间缩短50%。据该报道，Embed v4在美东（弗吉尼亚北部，us-east-1）、欧洲（爱尔兰，eu-west-1）和亚太（东京，ap-northeast-1）区域支持区域内推理，覆盖Octave三项区域合规要求；模型与功能可用性因区域而异并随时间变化。测试显示，512维在代表性生产查询上保持目标精度，相比1536维默认值减少约66%存储。已完成的简报缓存在Amazon DynamoDB中，按环境设置TTL，重复查看不产生额外费用。目前该事件仅有这一篇主报道，尚无跟进报道或矛盾信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。