AWS Machine Learning Blog· Urvish Saraiya· 机构原始发布·· 6 天前精选
Octave 在 Amazon Bedrock 上构建安全多租户 AI 基础，嵌入 20 亿份文档
原文标题
How Octave built a secure multi-tenant AI foundation on Amazon Bedrock
AI 导读
Octave 为 14000 多家受监管行业客户的质量管理平台 Reliance 构建了多租户 AI 基础。团队把所有租户的隔离要求作为前提，用 Amazon Bedrock 上的 Cohere Embed v4 完成 20 亿份文档的嵌入，并把向量存储按租户隔离到 OpenSearch Service；执行层通过 Bedrock AgentCore Gateway 和隔离 microVM 调用 Claude，前后两次经过 Bedrock Guardrails 过滤。该基础已将每个用例的部署时间缩短 50%。
来源：AWS Machine Learning Blog · aws.amazon.com
导读与选稿说明
文章完整给出了受监管 SaaS 平台在租户数据严格隔离、不可信内容进入和超大规模嵌入三方面的解决办法，包括逐租户向量库、按用户权限执行 Agent 和输入与输出双重过滤，可作为同类多租户 AI 平台的工程参考。
导读由模型辅助整理，非独立核验。完整信息见原文。