Octave 在 Amazon Bedrock 上构建安全多租户 AI 基础,嵌入 20 亿份文档
Octave 为 14000 多家受监管行业客户的质量管理平台 Reliance 构建了多租户 AI 基础。团队把所有租户的隔离要求作为前提,用 Amazon Bedrock 上的 Cohere Embed v4 完成 20 亿份文档的嵌入,并把向量存储按租户隔离到 OpenSearch Service;执行层通过 Bedrock AgentCore Gateway 和隔离 microVM 调用 Claude,前后两次经过 Bedrock Guardrails 过滤。该基础已将每个用例的部署时间缩短 50%。
