Deepgram ترفع كفاءة Nova-3 الصوتي على AWS Trainium2
نقلت Deepgram نموذج Nova-3 لتحويل الكلام إلى نص إلى شرائح AWS Trainium2 بالتعاون مع AWS. ويشغّل الإعداد ثماني نسخ من النموذج على مثيل EC2 trn2.3xlarge لمهام الدفعات غير المتصلة، مثل تحليلات مراكز الاتصال والنسخ الطبي.
نقلت Deepgram نموذج Nova-3 لتحويل الكلام إلى نص إلى شرائح AWS Trainium2 بالتعاون مع AWS. ويشغّل الإعداد ثماني نسخ من النموذج على مثيل EC2 trn2.3xlarge لمهام الدفعات غير المتصلة، مثل تحليلات مراكز الاتصال والنسخ الطبي.
أظهر القياس معالجة صوت أكثر لكل دولار بنسبة تراوح بين 11% و70% مقارنة بخيارات الحوسبة التي كانت Deepgram تستخدمها. كما حقق وقت تشغيل مبني بلغة Rust زيادة 7.5% في الإنتاجية مقابل مرجع Python متعدد العمليات عند حجم الدفعة الأمثل، مع الحفاظ على دقة النموذج المرجعية.
How Deepgram optimized voice AI at scale with AWS Trainium · تاريخ النشر في المصدر: