
GLM-۵.۳-Flash و MiMo-V۲.۶؛ اجرای مدلهای MoE بزرگ با GPU و RAM
مدلهای MoE بزرگ مثل GLM-۵.۳-Flash و MiMo-V2.۶-Flash با پارامتر فعال کم سریع اجرا میشوند اما حافظه زیادی میخواهند. روشهای اجرای آنها روی سرور خودتان و نسخه Distill کوچک MiMo.
میزبانی وب
هاست ابریمیزبانی وب روی NVMe با تحویل آنیشروع از ۱۴۸,۰۰۰ تومان / ماههاست سیپنلمدیریت سایت و ایمیل با cPanelشروع از ۲۰۹,۰۰۰ تومان / ماهسرور ابری
سرور مجازی ایراندسترسی Root و ساخت خودکارشروع از ۴۹۵,۳۶۰ تومان / ماهسرور مجازی خارج۱۱ لوکیشن در اروپا و آمریکاشروع از ۲,۲۶۰,۰۰۰ تومان / ماهسرور اختصاصی مجازی VDSمحیط ESXi با منابع اختصاصیشروع از ۱۰,۸۰۰,۰۰۰ تومان / ماهسرورهای تخصصی
سرور گیمآنتیدیداس و پردازنده فرکانسبالاشروع از ۴۳۲,۰۰۰ تومان / ماهسرور GPUNVIDIA H100 و L40S، ساعتی یا ماهانهشروع از ۲۵,۴۰۰ تومان / ساعتکولوکیشن سروراز یک یونیت تا رک کاملشروع از ۶,۵۰۰,۰۰۰ تومان / یونیت در ماه
مدلهای MoE بزرگ مثل GLM-۵.۳-Flash و MiMo-V2.۶-Flash با پارامتر فعال کم سریع اجرا میشوند اما حافظه زیادی میخواهند. روشهای اجرای آنها روی سرور خودتان و نسخه Distill کوچک MiMo.

DeepSeek V4.۱-Flash در بنچمارکهای Agent و کدنویسی به مدلهای بسته رسیده است، اما ۵۵۲ میلیارد پارامتر دارد. محاسبه حافظه لازم، روشهای اجرای خصوصی و گزینههای عملی برای تیمهای کوچک.

انویدیا مدل Nemotron ۳.۵ Bolt را برای اجرای Agentهای لوکال ساخته: ۷۴ میلیارد پارامتر، ۹ میلیارد فعال و فایل GGUF حدود ۲۵ گیگابایت. آموزش اجرا با llama.cpp و Ollama و GPU مناسب آن.

Gemma ۴ در اندازههای E2B، E4B، 12B، 26B A4B و 31B منتشر شده و برای اولین بار لایسنس Apache ۲.۰ دارد. کدام نسخه را روی کدام GPU اجرا کنیم و چطور آن را راه بیندازیم؟

Qwen3.۸-27B مدل متراکم ۲۷ میلیاردی و چندرسانهای Alibaba با لایسنس Apache ۲.۰ است. در این آموزش آن را با Ollama و vLLM روی سرور GPU اجرا میکنیم و نسخه مناسب هر مقدار VRAM را مشخص میکنیم.

مدلهای متنباز جدید پاییز ۲۰۲۶ را کنار هم گذاشتهایم: کدام روی یک GPU اجرا میشود، کدام به چند GPU نیاز دارد، بنچمارکها چه میگویند و برای چت، کدنویسی و Agent کدام را انتخاب کنید.

رفتار یک مدل زبانی را با QLoRA و یک GPU برای وظیفه خودتان تنظیم کنید؛ از داده تا استقرار.

صوت جلسات و ویدیوها را روی سرور خودتان به متن فارسی تبدیل کنید؛ با Whisper و faster-whisper.

تولید تصویر با هوش مصنوعی روی سرور خودتان؛ بدون محدودیت تعداد و بدون ارسال طرحها به سرویس خارجی.

یک رابط شبیه ChatGPT برای تیمتان روی سرور خودتان راهاندازی کنید؛ با مدلهای محلی و کنترل کامل دادهها.

چتباتی بسازید که از روی اسناد سازمان شما و با ذکر منبع پاسخ بدهد؛ بدون آموزش دوباره مدل.

چطور یک مدل زبانی را برای دهها کاربر همزمان اجرا کنیم؟ موتور مناسب، تنظیمات vLLM، تخمین ظرفیت و معماری رشد.