تجلب Microsoft نماذج Deepseek R1 المقطرة إلى Copilot+ PCS
ديبسيك غزا عالم الهاتف المحمول وتتوسع الآن إلى Windows – بدعم كامل من Microsoft ، بشكل مدهش. بالأمس ، أضاف عملاق البرمجيات نموذج Deepseek R1 إلى Azure AI مسبك للسماح للمطورين باختبار وبناء التطبيقات والخدمات المستندة إلى مجموعة النظراء معها. اليوم ، أعلنت Microsoft أنها تجلب إصدارات مقطرة من R1 إلى Copilot+ PCS. ستكون النماذج المقطرة متاحة أولاً للأجهزة التي تعمل بها رقائق Snapdragon X ، والتي تحتوي على معالجات Intel Core Ultra 200V ثم أجهزة الكمبيوتر المستندة إلى AMD Ryzen AI 9. سيكون النموذج الأول هو Deepseek-R1-Distill-Qwen-1.5b (أي نموذج معلمة 1.5 مليار) مع نماذج 7B و 14B أكبر وأكثر قدرة. ستكون هذه متاحة للتنزيل من مجموعة أدوات AI Microsoft. كان على Microsoft تعديل هذه النماذج لتحسينها لتشغيل الأجهزة باستخدام NPUs. تعمل العمليات التي تعتمد بشكل كبير على الوصول إلى الذاكرة على وحدة المعالجة المركزية ، بينما يتم تشغيل العمليات المكثفة من الناحية الحسابية مثل كتلة المحولات على NPU. مع التحسينات ، تمكنت Microsoft من تحقيق وقت سريع للرمز المميز الأول (130 مللي ثانية) ومعدل إنتاجية قدرها 16 رمزًا في الثانية لمطالبات قصيرة (أقل من 64 رمزًا). لاحظ أن “الرمز المميز” يشبه حرف العلة (والأهم من ذلك ، أن الرمز المميز واحد عادة ما يكون أكثر من حرف واحد). Microsoft هي مؤيد قوي للاستثمار والاستثمار بعمق في Openai (صانعو Chatgpt و GPT-4O) ، ولكن يبدو أنه لا يلعب المفضلة-يحتوي ملعب Azure على طرازات GPT (Openai) ، Llama (Meta) ، Misstral ( شركة الذكاء الاصطناعى) ، والآن Deepseek أيضا. Deepseek R1 في ملعب Azure AI Foundry على أي حال ، إذا كنت أكثر في الذكاء الاصطناعى المحلي ، قم بتنزيل مجموعة أدوات AI لـ VS Code أولاً. من هناك ، يجب أن تكون قادرًا على تنزيل النموذج محليًا (على سبيل المثال “DeepSeek_R1_1_5” هو طراز 1.5B). أخيرًا ، Try Try In Playground وشاهد مدى ذكاء هذه النسخة المقطرة من R1. “التقطير النموذجي” ، الذي يُطلق عليه أحيانًا “تقطير المعرفة” ، هو عملية أخذ نموذج كبير لمنظمة العفو الدولية (يحتوي Deepseek R1 الكامل على 671 مليار معلمة) ونقل أكبر قدر ممكن من معرفته إلى نموذج أصغر (على سبيل المثال 1.5 مليار معلمة) . إنها ليست عملية مثالية والنموذج المقطر أقل قدرة من النموذج الكامل – ولكن حجمه الأصغر يسمح له بالتشغيل مباشرة على أجهزة المستهلك (بدلاً من أجهزة AI المخصصة التي تكلف عشرات الآلاف من الدولارات).