AWS Machine Learning Blog· Pierre Lienhart· 机构原始发布·· 7 天前精选
Deepgram使用AWS Trainium优化大规模语音AI处理效率
原文标题
How Deepgram optimized voice AI at scale with AWS Trainium
AI 导读
Deepgram将Nova-3语音识别模型迁移至AWS Trainium2芯片，通过PyTorch重构和内核调优，在批量转录工作负载中实现每美元处理音频量提升11-70%。该优化使Deepgram能够在单台EC2 trn2.3xlarge实例上运行8个模型副本，同时保持与原始模型相同的词错误率(WER)。
来源：AWS Machine Learning Blog · aws.amazon.com
导读与选稿说明
解决了语音AI大规模部署中的成本效率瓶颈，使Deepgram能以更低价格提供更高效的语音处理服务，客户在Amazon SageMaker上自托管模型也能受益。
导读由模型辅助整理，非独立核验。完整信息见原文。