DeepInfer إطار استدلال من DeepSeek بترخيص Apache-2.0، لكن المفتوح منه هو الاستدلال دون اتصال لنموذج واحد: DeepSeek-V4.1-Flash. أي أنك لا تحصل على خدمة محادثة إنتاجية كاملة، رغم أن README يقول إن الإطار يشغّل خدمات DeepSeek الإنتاجية.
المصدر هو مستودع المشروع على GitHub بحسب قراءته في 21 أكتوبر 2026.
الخلاصة أولًا
- ما المفتوح؟ الاستدلال دون اتصال لنموذج DeepSeek-V4.1-Flash، وهو النموذج الوحيد المذكور.
- ما الناقص؟ نظام KV cache، وفصل مرحلتي prefill وdecode، وموازنة الحمل بين نسخ البيانات المتوازية.
- العتاد: معالجات NVIDIA SM100 ووحدات Huawei Ascend 950.
- الترخيص: Apache License 2.0، للشفرة فقط. أما أوزان النموذج فراجع ترخيصها.
ما الذي فتحته DeepInfer؟
| السؤال | ما يقوله README |
|---|---|
| ما هو؟ | إطار استدلال عالي الأداء وواسع النطاق لنماذج DeepSeek |
| ما المنشور؟ | استدلال دون اتصال لنموذج DeepSeek-V4.1-Flash، وهو النموذج الوحيد المذكور |
| الترخيص | Apache License 2.0 (للشفرة فقط) |
| العتاد | NVIDIA SM100 وHuawei Ascend 950 |
| غير مشمول | نظام KV cache، وفصل prefill/decode، وموازنة الحمل لنسخ prefill وdecode |
ما المزايا التي يذكرها README؟
- نوى مُحسّنة.
- توازي البيانات والسياق في الانتباه.
- توازي خبراء MoE مع موازنة الحمل (EPLB).
- فك الترميز التخميني (DSpark) بالتحقق المجدول بالثقة.
- إعادة تشغيل محدودة لانتباه النافذة المنزلقة، وجدولة غير متزامنة.
- استدلال ثابت النتيجة عبر الدفعات، وأخذ عينات حتمي، ومخرجات منظمة.
والاستدلال الثابت عبر الدفعات وأخذ العينات الحتمي لـNVIDIA فقط، فلن تحصل عليهما على Ascend.
ماذا تحتاج لتشغيله؟
- Linux وGCC 13 فأحدث وPython 3.12.
- CUDA 13 لـNVIDIA أو CANN 9.2 لـAscend.
والأوامر بهذا الترتيب:
- اضبط DEEPINFER_ACCELERATOR على nvidia أو ascend.
- شغّل ./build.sh.
- شغّل python examples/offline_inference.py.
وتُنزَّل نقطة التحقق الافتراضية DeepSeek-V4.1-Flash-1017 عند أول تشغيل.
ماذا تقول أرقام القياس؟
يذكر README أن prefill قيس على 4 معالجات SM100 وdecode على 64، كل منهما ضمن نطاق توسّع واحد. والنتائج في رسوم فقط، مع سكربت (examples/sweep/run_sweep.sh) لإعادة إنتاجها. ولا يعطي النص أرقام إنتاجية أو زمن استجابة، فلا رقم نذكره.
والدرس العملي أن إعداد 64 معالجًا للتوليد إعداد مراكز بيانات، لا يُعاد على حاسوب شخصي.
ماذا تعني كلمة «مفتوح» هنا؟
الترخيص يشمل الشفرة فقط، ولا تذكر الصفحة شروط أوزان النموذج. ويقول المشروع إنه بُني في الأصل أساسًا على vLLM مع استلهام من SGLang وTensorRT-LLM. ولا يظهر في المستودع وسم إصدار ولا رقم نسخة.
ماذا تفعل بعد ذلك؟
- راجع ترخيص أوزان DeepSeek-V4.1-Flash قبل أي استخدام تجاري.
- تأكد أن عتادك NVIDIA SM100 أو Huawei Ascend 950، فهما المذكوران فقط.
- لا تتوقع خدمة محادثة كاملة؛ نقترح أن تستخدمه للاستدلال دفعيًا دون اتصال.
أسئلة وأجوبة حول DeepInfer
هل أستطيع تشغيل خدمة محادثة DeepSeek بها اليوم؟
لا بالإصدار الحالي وحده. يقول README إن خدمة إنتاجية كاملة تحتاج أجزاء غير مضمّنة، كنظام KV cache وموازنة الحمل، ويقدّم الاستدلال دون اتصال بوصفه المفتوح.
هل تعمل على بطاقة ألعاب؟
لا يدعمها README. المعلن معالجات NVIDIA SM100 ووحدات Ascend 950 فقط.
ما الترخيص؟
Apache License 2.0، وهو للشفرة فقط. فلا تفترض أنه يغطي أوزان النموذج.
أي نموذج أشغّل بها؟
DeepSeek-V4.1-Flash فقط، وتنزل نقطة التحقق DeepSeek-V4.1-Flash-1017 تلقائيًا عند أول تشغيل.
مصطلحات بلغة مبسطة
- الاستدلال: تشغيل نموذج مدرَّب لتوليد الإجابات.
- دون اتصال: معالجة دفعات من الطلبات محليًا، لا خدمة مباشرة للمستخدمين.
- KV cache: ذاكرة مؤقتة تحفظ نتائج جزئية لتسريع توليد النص.
- prefill وdecode: مرحلتا قراءة المدخل ثم توليد المخرج.
- MoE: نموذج مكوّن من عدة خبراء يُفعَّل بعضهم لكل طلب.
المصادر
قُرئت الوقائع في 21 أكتوبر 2026.
