مدل‌های متن‌باز در دو سال اخیر آن‌قدر پیشرفت کرده‌اند که بسیاری از سازمان‌ها به‌جای ارسال داده‌هایشان به سرویس‌های ابری خارجی، ابزارهای هوش مصنوعی را روی سرور خودشان اجرا می‌کنند. اما Self-Hosting ابزارهای AI همیشه انتخاب درستی نیست. در این مقاله مزایا، معایب، الزامات امنیتی و هزینه واقعی آن را بی‌طرفانه بررسی می‌کنیم و یک استک پیشنهادی برای شروع ارائه می‌دهیم.
فهرست مطالب
Self-Hosting هوش مصنوعی یعنی چه؟
Self-Hosting یعنی مدل‌های زبانی و ابزارهای کنار آن، مثل رابط چت، پایگاه داده برداری و اتوماسیون، روی سروری اجرا شوند که تحت کنترل شماست؛ سرور فیزیکی سازمان، سرور GPU اجاره‌ای یا سرور در کولوکیشن. در این مدل، درخواست‌ها به سرورهای شرکت‌های ثالث ارسال نمی‌شوند و کنترل نسخه مدل، داده‌ها و دسترسی‌ها با خود شماست.
مزایا
- حریم خصوصی و محل داده: اسناد داخلی، اطلاعات مشتریان و کد منبع از زیرساخت شما خارج نمی‌شوند. برای سازمان‌هایی که الزامات قانونی درباره محل نگهداری داده دارند، این مهم‌ترین دلیل است.
- استقلال از تحریم و محدودیت حساب: دسترسی به سرویس، به وضعیت حساب کاربری در یک سرویس خارجی، روش پرداخت ارزی یا تغییر سیاست‌های آن وابسته نیست.
- هزینه قابل پیش‌بینی: هزینه ثابت سرور به‌جای پرداخت به‌ازای هر توکن. در حجم بالا، صرفه اقتصادی قابل توجهی دارد.
- کنترل نسخه: مدل بدون اطلاع شما تغییر نمی‌کند یا حذف نمی‌شود؛ رفتار سیستم ثابت و قابل آزمون می‌ماند.
- سفارشی‌سازی: امکان Fine-Tuning روی داده‌های اختصاصی و اتصال مستقیم به سیستم‌های داخلی.
- تأخیر کم در شبکه داخلی: اتصال مستقیم به دیتابیس‌ها و سرویس‌ها بدون عبور از اینترنت.
معایب و چالش‌ها
- فاصله کیفیت با مدل‌های پیشرو: مدل‌های متن‌باز در بسیاری از کارها، مثل خلاصه‌سازی، دسته‌بندی، پاسخ بر اساس اسناد و کدنویسی متوسط، بسیار خوب عمل می‌کنند. اما در استدلال پیچیده، بزرگ‌ترین مدل‌های تجاری معمولاً هنوز جلوترند.
- هزینه سخت‌افزار برای مدل‌های بزرگ: اجرای مدل‌های بسیار بزرگ به چند GPU دیتاسنتری نیاز دارد.
- نیاز به تخصص: نصب، به‌روزرسانی، پایش، بکاپ و امنیت بر عهده شماست.
- مسئولیت دسترس‌پذیری: اگر سرور از کار بیفتد، سرویس متوقف است؛ مگر اینکه برای افزونگی برنامه داشته باشید.
- مقیاس‌پذیری: افزایش ناگهانی کاربران نیازمند سخت‌افزار بیشتر است، نه فقط پرداخت بیشتر.
مقایسه هزینه
نقطه سربه‌سر به حجم مصرف بستگی دارد. اگر سازمان شما روزانه چند صد درخواست کوتاه دارد، API ارزان‌تر است. اما وقتی ده‌ها کارمند هر روز با مدل کار می‌کنند، اسناد حجیم پردازش می‌شوند یا ایجنت‌های خودکار شبانه‌روز درخواست می‌فرستند، هزینه توکن به‌سرعت از اجاره ماهانه یک سرور GPU بیشتر می‌شود. علاوه بر این، باید هزینه زمان تیم فنی برای نگهداری را هم در محاسبه بگذارید. یک مقایسه دقیق با فرمول محاسبه را در GPU Server یا API هوش مصنوعی آورده‌ایم.
امنیت در Self-Hosting
Self-Hosting به‌خودی‌خود امن نیست؛ فقط کنترل امنیت را به شما می‌سپارد. اشتباه‌های رایج:
- API موتور مدل روی اینترنت باز: Ollama و بسیاری از موتورها به‌طور پیش‌فرض احراز هویت ندارند. سرویس را فقط روی شبکه داخلی نگه دارید و دسترسی عمومی را از طریق Gateway با کلید API بدهید. روش آن را در ساخت API امن سازگار با OpenAI توضیح داده‌ایم.
- دسترسی بیش از حد ایجنت‌ها: ایجنتی که به ایمیل، دیتابیس و سیستم فایل دسترسی دارد، در برابر Prompt Injection آسیب‌پذیر است. راهکارها در امنیت MCP Server و AI Agentها.
- رابط چت بدون کنترل دسترسی: Open WebUI و ابزارهای مشابه باید با حساب کاربری، و ترجیحاً SSO سازمانی، محافظت شوند.
- بی‌توجهی به سرور میزبان: سخت‌سازی SSH، فایروال و به‌روزرسانی، مثل هر سرور دیگری ضروری است. چک‌لیست در تنظیمات امنیتی VPS.
- مدل‌های منابع نامعتبر: وزن‌ها و فایل‌های مدل را فقط از منابع رسمی دانلود کنید؛ برخی فرمت‌های قدیمی می‌توانند کد اجرایی داشته باشند.
استک پیشنهادی
| لایه | ابزار پیشنهادی | نقش |
|---|---|---|
| موتور اجرای مدل | Ollama برای شروع، vLLM برای کاربر زیاد | اجرای LLM و ارائه API |
| رابط کاربری | Open WebUI یا LibreChat | چت سازمانی با مدیریت کاربر |
| پایگاه داده برداری | Qdrant یا pgvector | جستجوی معنایی در اسناد (RAG) |
| اتوماسیون و ایجنت | n8n Self-Hosted | اتصال مدل به سیستم‌های سازمان |
| ابزارهای ایجنت | MCP Server | دسترسی استاندارد و کنترل‌شده به ابزارها |
| Gateway | Nginx یا LiteLLM | کلید API، محدودیت نرخ و گزارش مصرف |
برای شروع، یک سرور GPU با کارت ۴۸ گیگابایتی برای اجرای مدل‌های تا ۳۲ میلیارد پارامتر و چند ده کاربر کافی است. انتخاب مدل مناسب را در مدل‌های هوش مصنوعی لوکال ببینید.
رویکرد ترکیبی
بسیاری از سازمان‌ها بهترین نتیجه را از ترکیب دو رویکرد می‌گیرند: داده‌های حساس و کارهای پرحجم روی مدل محلی، و کارهای نادر که به قوی‌ترین مدل‌ها نیاز دارند، با داده غیرحساس، روی API تجاری. یک Gateway مثل LiteLLM می‌تواند درخواست‌ها را بر اساس قانون مشخص به هرکدام هدایت کند و برنامه‌ها فقط با یک API کار کنند.
چک‌لیست تصمیم‌گیری
Self-Hosting برای شما مناسب است اگر:
- داده‌های حساس یا الزام قانونی درباره محل نگهداری داده دارید.
- حجم استفاده بالا و پیوسته است.
- دسترسی پایدار به سرویس‌های خارجی برایتان ریسک است.
- تیم فنی یا پشتیبان برای نگهداری زیرساخت دارید.
- مدل‌های متن‌باز در تست‌های شما کیفیت کافی برای کاربردتان دارند.
سوالات متداول
آیا کیفیت مدل‌های متن‌باز با مدل‌های تجاری رقابت می‌کند؟
در بسیاری از کارهای روزمره سازمانی، مثل خلاصه‌سازی، دسته‌بندی، پاسخ بر اساس اسناد و ترجمه، مدل‌هایی مثل Qwen، Llama و DeepSeek نتیجه نزدیک به مدل‌های تجاری دارند. در استدلال‌های بسیار پیچیده، فاصله هنوز وجود دارد. بهترین راه، تست روی داده‌های واقعی خودتان است.
برای شروع Self-Hosting چه سروری لازم است؟
برای آزمایش، یک سرور با کارت ۲۴ گیگابایتی کافی است. برای سرویس سازمانی، کارت ۴۸ گیگابایتی مثل L40S و برای مدل‌های بزرگ یا کاربران زیاد، H100 پیشنهاد می‌شود.
آیا Self-Hosting از نظر لایسنس مدل‌ها مشکلی دارد؟
هر مدل لایسنس خاص خود را دارد. بیشتر مدل‌های رایج استفاده تجاری را مجاز می‌دانند، اما برخی محدودیت‌هایی دارند. قبل از استفاده تجاری، لایسنس مدل را بررسی کنید.
آیا می‌توانم بدون GPU شروع کنم؟
برای مدل‌های کوچک و تعداد کاربر بسیار کم، اجرا روی CPU ممکن است، اما سرعت برای استفاده جدی کافی نیست. حداقل برای مرحله آزمایش، اجاره کوتاه‌مدت سرور GPU انتخاب بهتری است.
زیرساخت Self-Hosting هوش مصنوعی
با سرورهای GPU تراست هاست در داخل کشور، مدل‌ها و ابزارهای هوش مصنوعی خود را با کنترل کامل داده‌ها اجرا کنید.
