DeepSeek در شهریور ۱۴۰۵ (سپتامبر ۲۰۲۶) مدل DeepSeek V4.1-Flash را با لایسنس MIT منتشر کرد؛ مدلی چندرسانه‌ای با ۵۵۲ میلیارد پارامتر در بدنه اصلی، Context یک میلیون توکنی و نتایجی که در جدول خود DeepSeek، در بنچمارک‌های Agent و کدنویسی هم‌تراز مدل‌های بسته پیشرو است. سوال اصلی بسیاری از تیم‌ها این است: آیا می‌شود DeepSeek V4.1 را روی سرور خودمان اجرا کنیم؟ پاسخ کوتاه: بله، اما نه روی یک GPU. در این مقاله حافظه لازم را حساب می‌کنیم، روش‌های اجرا را مرور می‌کنیم و گزینه‌های عملی‌تر را معرفی می‌کنیم.
فهرست مطالب
DeepSeek V4.۱-Flash چه چیزی تازه دارد؟
- معماری Causal Encoder-Decoder: ۴۰ لایه شامل ۲۰ لایه Encoder و ۲۰ لایه Decoder. KV Cache سراسری Decoder از خروجی Encoder ساخته می‌شود و به همین دلیل برای هر توکن فقط ۸ میلیارد (و در برخی مسیرها ۱۶ میلیارد) پارامتر فعال می‌شود.
- KV Cache بسیار کوچک: به گفته DeepSeek حدود ۴ برابر کمتر از V4-Flash و ۴۳۷ برابر کمتر از DeepSeek نسل اول به ازای هر توکن. یعنی Context بلند و کاربران هم‌زمان بیشتر با حافظه کمتر.
- MoE بزرگ: در هر لایه ۱ Expert مشترک و ۳۸۴ Expert مسیریابی‌شده، به‌علاوه حافظه شرطی Engram با ۱۹۶ میلیارد پارامتر که به‌صورت پراکنده خوانده می‌شود.
- چندرسانه‌ای از پایه: Encoder تصویر DeepSeek-ViT از ابتدای پیش‌آموزش همراه متن آموزش دیده است.
- سطح استدلال پیوسته:
reasoning_effortاز ۱ تا ۱۰۰ قابل تنظیم است. - آموزش: ۴۵ تریلیون توکن چندرسانه‌ای.
نتایج بنچمارک
نتایج زیر را DeepSeek با بیشترین سطح استدلال و Harness خودش گزارش کرده است:
| بنچمارک | DS V4.1-Flash | DS V4-Pro | GLM-5.3 | Kimi K3 |
|---|---|---|---|---|
| Terminal-Bench 2.1 | 90.6 | 87.9 | 88.2 | 88.3 |
| DeepSWE v1.1 | 74.2 | 62.7 | 66.9 | 67.5 |
| GPQA Diamond | 90.9 | 92.4 | 88.1 | 92.9 |
| Codeforces (Rating) | 3471 | 3348 | — | — |
| CyberGym | 88.1 | 83.3 | 84.5 | 80.0 |
DeepSeek یک جدول جالب دیگر هم منتشر کرده: امتیاز مدل در Harnessهای مختلف (Claude Code، Codex، OpenCode و …) فقط چند درصد تفاوت دارد؛ یعنی مدل در ابزارهای رایج کدنویسی هم عملکرد خوبی دارد. با این حال این اعداد گزارش خود سازنده است و باید با آزمایش روی کار واقعی تأیید شود.
حافظه لازم: محاسبه واقعی
پارامتر فعال کم، سرعت را بالا می‌برد اما حافظه را کم نمی‌کند؛ همه Expertها باید در حافظه باشند. محاسبه ساده فقط برای ۵۵۲ میلیارد پارامتر بدنه:
| دقت | محاسبه ساده | فایل‌های واقعی منتشرشده جامعه |
|---|---|---|
| FP8 | حدود ۵۵۰ گیگابایت | — |
| ۴ بیتی (MXFP4) | حدود ۲۸۰ گیگابایت | حدود ۵۰۰ گیگابایت |
| ۲ بیتی | حدود ۱۴۰ گیگابایت | حدود ۳۶۰ گیگابایت |
فایل‌های GGUF واقعی که در Hugging Face منتشر شده‌اند بزرگ‌تر از محاسبه ساده‌اند، چون حافظه Engram، Encoder تصویر و لایه‌های حساس با دقت بالاتر نگه داشته می‌شوند. پیش از برنامه‌ریزی، حجم دقیق فایل‌های همان نسخه‌ای را که می‌خواهید دانلود کنید بررسی کنید. خبر خوب این است که KV Cache این مدل بسیار کوچک است، پس بخش بزرگ حافظه فقط صرف وزن‌ها می‌شود. پایه این محاسبات در VRAM لازم برای LLM و کوانتیزاسیون توضیح داده شده است.
سه راه اجرای خصوصی
۱. چند GPU دیتاسنتری
روش استاندارد برای سرویس‌دهی با کیفیت کامل، سرور با ۸ کارت H100 یا H200 و موتورهایی مثل vLLM یا SGLang با Tensor/Expert Parallelism است. پیش از راه‌اندازی، پشتیبانی نسخه موتور سرو از معماری جدید V4.۱ را در مستندات آن بررسی کنید؛ پشتیبانی از معماری‌های تازه معمولاً چند هفته پس از انتشار کامل می‌شود. پوشه inference مخزن رسمی هم پیاده‌سازی مرجع تبدیل وزن و اجرا را دارد.
۲. اجرای ترکیبی GPU و RAM
با llama.cpp و فایل‌های GGUF کوانتیزه، می‌توان Expertها را در RAM سیستم و لایه‌های توجه را روی GPU نگه داشت. یک سرور با ۵۱۲ گیگابایت یا بیشتر RAM و یک GPU می‌تواند مدل را اجرا کند؛ سرعت به پهنای باند حافظه وابسته است و برای یک کاربر یا پردازش دسته‌ای مناسب است، نه سرویس‌دهی هم‌زمان. نمونه:
./build/bin/llama-server -m /models/DeepSeek-V4.1-Flash-....gguf \
-ngl 999 --override-tensor "exps=CPU" \
--ctx-size 32768 --host 127.0.0.1 --port 8080 --api-key YOUR_KEYگزینه --override-tensor "exps=CPU" وزن‌های Expert را روی CPU نگه می‌دارد. نام دقیق فایل و تنظیمات پیشنهادی را از صفحه همان مخزن GGUF بخوانید؛ پشتیبانی llama.cpp از این معماری باید در نسخه‌ای که نصب می‌کنید وجود داشته باشد.
۳. سرو روی زیرساخت ابری داخلی
اگر حریم داده مهم است اما خرید سخت‌افزار منطقی نیست، اجاره ساعتی چند GPU برای پروژه‌های دوره‌ای (مثلاً پردازش دسته‌ای اسناد) یک راه میانه است. مقایسه هزینه‌ها در سرور GPU یا API.
نکته مهم: قالب پرامپت
این نسخه فایل Chat Template با قالب Jinja ندارد. به جای آن پوشه encoding یک پیاده‌سازی مرجع پایتون برای ساخت پرامپت (چندمرحله‌ای، فراخوانی ابزار، حالت تفکر و تصویر) دارد و DeepSeek کتابخانه deepseek-recipe را هم برای تبدیل درخواست‌های Chat Completions و Responses API به قالب مدل منتشر کرده است. اگر موتور سرو شما قالب را درست اعمال نکند، کیفیت پاسخ شدیداً افت می‌کند؛ پیش از ارزیابی، از درست بودن قالب مطمئن شوید. پارامترهای پیشنهادی: temperature=1.0 و top_p=0.95.
هشدار درباره برچسب cloud در Ollama
در کتابخانه Ollama برای این مدل فقط برچسب deepseek-v4.1-flash:cloud وجود دارد. مدل‌های cloud روی سرورهای Ollama اجرا می‌شوند، نه روی سیستم شما؛ پس داده شما از سرور خارج می‌شود و اجرای لوکال محسوب نمی‌شود. اگر هدف حریم داده است، از این برچسب استفاده نکنید.
جایگزین‌های یکGPU
برای بیشتر تیم‌های کوچک، یک مدل کوچک‌تر روی یک GPU نتیجه عملی بهتری دارد:
- Qwen3.8-27B: ۷۳.۰ در Terminal-Bench ۲.۱ روی یک GPU با ۲۴ گیگابایت.
- Nemotron 3.5 Bolt: مدل ۷۴ میلیاردی در حدود ۲۵ گیگابایت.
- GLM-5.3-Flash: MoE با ۳۲۰ میلیارد پارامتر که نسخه ۲ بیتی آن حدود ۱۰۰ گیگابایت است.
مقایسه کامل در بهترین مدل‌های متن‌باز ۲۰۲۶.
سوالات متداول
DeepSeek V4.۱-Flash روی یک H100 اجرا می‌شود؟
نه به‌صورت کامل روی GPU. حتی نسخه‌های ۲ بیتی جامعه بیش از ۸۰ گیگابایت‌اند. با اجرای ترکیبی و RAM زیاد سیستم ممکن است، اما کند.
لایسنس آن اجازه استفاده تجاری می‌دهد؟
بله، مخزن و وزن‌ها با لایسنس MIT منتشر شده‌اند.
پارامتر فعال ۸ میلیارد یعنی مثل یک مدل ۸B سبک است؟
از نظر سرعت محاسبه هر توکن نزدیک است، اما از نظر حافظه باید کل وزن‌ها بارگذاری شوند. این تفاوت کلیدی مدل‌های MoE است.
زیرساخت GPU برای مدل‌های بزرگ
برای آزمایش مدل‌های کوچک‌تر روی H100 و L40S، پلن‌های ساعتی سرور GPU تراست هاست را ببینید. برای نیازهای چند GPU و پروژه‌های سازمانی، با پشتیبانی سرور مشورت کنید.
