انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

POCKET-Darwin-180B يتيح نموذجاً ضخماً للذكاء الاصطناعي على الحواسيب الشخصية

رسم توضيحي مولّد بالذكاء الاصطناعي: POCKET-Darwin-180B يتيح نموذجاً ضخماً للذكاء الاصطناعي على الحواسيب الشخصية
رسم توضيحي مولّد بالذكاء الاصطناعي

أُطلق POCKET-Darwin-180B بحجم 111 غيغابايت بصيغة GGUF رباعية البت، بعد أن كان حجم الأوزان الأصلية 360 غيغابايت. ويستطيع العمل على حاسوب محمول مزود بـRTX 5060 Laptop وذاكرة 32 غيغابايت بسرعة 4.17 رموز/ثانية، أو على معالج خادم بـ16 خيطاً من دون GPU بسرعة 18.4-21 رمزاً/ثانية.

يعتمد النموذج Darwin-180B على بنية Mixture-of-Experts، إذ ينشّط 10 خبراء فقط من أصل 512 لكل رمز. وسجّل الإصدار رباعي البت 87.65% في اختبار MMLU-Pro المؤلف من 2000 سؤال، مساويةً للنسخة الأصلية، ما يتيح تشغيله محلياً من دون اتصال بالإنترنت في جهات مثل الدفاع والمال والقطاع العام.

Data-center AI, now on a laptop — POCKET-Darwin-180B · تاريخ النشر في المصدر: