چگونه زیرساخت سرور مناسب انتخاب کنیم؟

آغاز یک پروژه هوش مصنوعی ممکن است با یک ابزار آماده، چند فایل داده و یک رایانه معمولی فرصت‌پذیر باشد. اما زمانی که قرار است همان پروژه به‌صورت مستمر در یک کسب‌وکار استفاده شود، نیازهای تازه‌ای مطرح می‌شوند: پاسخ‌گویی به کاربران هم‌زمان، نگهداری گزارش‌ها، کنترل دسترسی‌ها و مدیریت هزینه پردازش.

در این مرحله، انتخاب زیرساخت باید با شناخت کاربرد واقعی آغاز شود. نوع مدل، حجم داده، سرعت مورد انتظار و شرایط نگهداری، مشخص می‌کنند چه ترکیبی از سرور، پردازنده گرافیکی، حافظه و ذخیره‌سازی مناسب خواهد بود.

عنوان «هوش مصنوعی» مجموعه گسترده‌ای از فعالیت‌ها را در بر می‌گیرد. تحلیل تصویر، پردازش متن، پیش‌بینی عرضه، جست‌وجوی هوشمند و اجرای دستیار سازمانی، الزاماً منابع یکسانی نیاز ندارند.

پیش از انتخاب تجهیزات باید روشن شود خروجی مورد انتظار چیست و سیستم چگونه استفاده خواهد شد. آیا کاربران پاسخ فوری می‌خواهند؟ آیا پردازش‌ها می‌توانند در زمان مشخص و به‌صورت گروهی انجام شوند؟ آیا مدل داخل سازمان اجرا می‌شود یا بخشی از خدمات از طریق یک ارائه‌دهنده بیرونی تأمین خواهد شد؟

پاسخ این پرسش‌ها به تعیین ظرفیت پردازش کمک می‌کند. برای مطالعه بیشتر درباره ارتباط سرور، GPU و زیرساخت اجرای هوش مصنوعی، می‌توانید مطلب مرتبط با خریداری سرور اچ پی در دیدگاه پلاس را نیز مرور کنید.

آموزش مدل، تنظیم مدل با داده‌های اختصاصی و اجرای یک مدل آماده، سه فعالیت متفاوت هستند. هرکدام می‌توانند نیازهای خاصی از نظر زمان پردازش، حافظه و ذخیره‌سازی داشته باشند.

در بسیاری از کاربردهای سازمانی، هدف اجرای یک مدل آماده برای پاسخ‌گویی یا تحلیل گزارش‌ها است. در چنین شرایطی، باید اندازه مدل، حجم ورودی‌ها و تعداد درخواست‌های هم‌زمان ارزیابی شود.

اگر پروژه شامل آموزش یا تنظیم مدل باشد، حجم داده و روش انجام این کار نیز بر نیاز سخت‌افزاری اثر می‌گذارد. بنابراین، انتخاب تجهیزات باید طبق همان فرایندی انجام شود که قرار است در عمل اجرا شود.

نیاز به پردازنده گرافیکی به مدل، نرم‌افزار و سرعت مورد انتظار وابسته است. برخی فعالیت‌های سبک با پردازنده مرکزی قابل انجام هستند؛ برخی دیگر برای دستیابی به زمان پاسخ مناسب از GPU استفاده می‌کنند.

بهتر است پیش از تهیه سرور ، نیازمندی‌های نرم‌افزار تحلیل و در صورت توانایی، یک آزمایش اولیه انجام شود. این آزمایش می‌تواند مصرف حافظه، زمان پردازش و رفتار سیستم در برابر درخواست‌های واقعی را نشان دهد.

برآیند چنین ارزیابی‌ای کمک می‌کند مشخص شود سرمایه‌گذاری روی GPU چه تأثیری بر کاربرد موردنظر دارد و چه ظرفیتی لازم است.

حافظه اختصاصی پردازنده گرافیکی یکی از معیارهای مهم در اجرای مدل‌هاست. مدل، داده‌های موقت و سایر اجزای پردازش باید در منابع قابل دسترس قرار بگیرند.

نیاز حافظه فقط به نام مدل وابسته نیست. شیوه اجرای آن، اندازه ورودی‌ها، طول متن‌ها و تعداد درخواست‌های هم‌زمان نیز می‌توانند مصرف حافظه را تغییر دهند.

هنگام مقایسه کارت‌ها باید ظرفیت حافظه را در کنار کارایی، سازگاری نرم‌افزاری و مصرف برق ارزیابی کرد. علاوه بر این استفاده از چند GPU نیازمند پشتیبانی مدل و نرم‌افزار است؛ مجموع ظرفیت حافظه کارت‌ها در همه کاربردها به‌صورت خودکار مانند یک حافظه واحد عمل نمی‌کند.

انتخاب کارت گرافیک باید با مرور مشخصات همان مدل سرور همراه باشد. ابعاد کارت، فضای شاسی، مسیر نصب، اتصال برق و توان خنک‌سازی باید مناسب باشند.

نوع رایزر و اسلات‌های قابل استفاده نیز اهمیت دارد. ممکن است یک سرور از نظر پردازنده و رم ظرفیت مناسبی داشته باشد، اما برای نصب کارت موردنظر به قطعات یا پیکربندی متفاوتی نیاز پیدا کند.

بهتر است سازگاری طبق مستندات مدل دقیق سرور و GPU ارزیابی شود. روشن شدن دستگاه به‌تنهایی برای تأیید مناسب بودن ترکیب تجهیزات در پردازش مستمر کافی نیست.

حتی در سیستمی که پردازش اصلی روی GPU انجام می‌شود، CPU وظایفی مانند آماده‌سازی داده‌ها، اجرای خدمات جانبی و مدیریت درخواست‌ها را بر عهده دارد.

اگر این بخش ظرفیت کافی نداشته باشد، ممکن است داده‌ها با سرعت لازم به GPU نرسند و منابع پردازنده گرافیکی به‌طور جامع استفاده نشوند. در مقابل، انتخاب CPU بسیار قوی‌تر از نیاز نیز الزاماً بازده پروژه را به همان نسبت صعود نمی‌دهد.

تعداد هسته‌ها، نحوه عملکرد هر هسته و سازگاری نرم‌افزار باید با توجه به بار کاری مرور شوند. هدف، هماهنگی اجزای سیستم با یکدیگر است.

حافظه رم میزبان، با حافظه اختصاصی GPU تفاوت دارد. سیستم‌عامل، برنامه‌ها، داده‌های در حال آماده‌سازی و خدمات جانبی از رم سرور استفاده می‌کنند.

اگر پایگاه داده، موتور جست‌وجو یا چند سرویس دیگر نیز روی همان دستگاه فعال باشند، نیاز آن‌ها باید در محاسبه ظرفیت لحاظ شود. کمبود رم می‌تواند سرعت کل فرایند را محدود کند.

نوع ماژول، ظرفیت، ترتیب نصب و قابلیت ارتقا باید با مشخصات سرور هماهنگ باشند. ظرفیت مناسب بهتر است با مرور مصرف واقعی یا آزمایش اولیه تعیین شود.

پروژه‌های هوش مصنوعی می‌توانند شامل فایل‌های مدل، مجموعه داده، خروجی پردازش و گزارش‌های اجرایی باشند. میزان و الگوی دسترسی به این گزارش‌ها بر انتخاب ذخیره‌سازی اثر می‌گذارد.

برای داده‌هایی که مرتب خوانده می‌شوند، سرعت دسترسی ممکن است اهمیت زیادی داشته باشد. در مقابل، برای آرشیو ادیشن‌های قدیمی یا نگهداری بلندمدت، ظرفیت و هزینه نیز معیارهای مهمی هستند.

هنگام انتخاب SSD یا هارد، سازگاری، رابط اتصال، دوام نوشتن و شرایط ضمانت تحلیل شوند. از سوی دیگر باید برای رشد حجم شرح و نگهداری ویرایش‌های پشتیبان برنامه وجود داشته باشد.

پردازش مستمر می‌تواند مصرف برق و تولید گرما را صعود دهد. اضافه شدن GPU نیز باید با ارزیابی ظرفیت منبع تغذیه و شرایط دفع گرما همراه باشد.

پیش از نصب تجهیزات، توان موردنیاز کل سیستم، اتصال‌های برق و شرایط محیطی مرور شوند. فضای رک، مسیر گردش هوا و فرصت دسترسی برای سرویس نیز در بهره‌برداری اهمیت دارند.

آزمایش زیر بار کمک می‌کند رفتار دستگاه از نظر دما، هشدارها و پایداری مرور شود. این ارزیابی باید متناسب با شرایط استفاده واقعی انجام گیرد.

محل پردازش داده، یکی از تصمیم‌های مهم در طراحی زیرساخت است. در استفاده از ابزارهای بیرونی باید مشخص باشد چه گزارش‌های ارسال می‌شوند، چه کسانی به آن‌ها دسترسی دارند و شرایط نگهداری آن‌ها چیست.

اجرای داخلی نیز نیازمند مدیریت دسترسی، آپدیت، ثبت رویدادها و نگهداری مناسب است. قرار گرفتن تجهیزات داخل سازمان، به‌تنهایی امنیت گزارش‌ها را تضمین نمی‌کند.

برای داده‌های حساس، بهتر است مسیر ورود، پردازش و ذخیره خروجی مشخص باشد. حساب‌های مدیریتی و دسترسی کاربران نیز باید متناسب با مسئولیت آن‌ها تعریف شوند.

انتخاب میان تجهیزات داخلی و خدمات پردازشی بیرونی به حجم استفاده، حساسیت گزارش‌ها و توان تیم فنی وابسته است.

در زیرساخت داخلی، هزینه سفارش سرور و GPU، برق، خنک‌سازی، مجوزها و نگهداری باید محاسبه شود. در خدمات بیرونی نیز هزینه مصرف، ذخیره‌سازی، انتقال داده و شرایط ارائه خدمت اهمیت دارند.

برای یک پروژه آزمایشی یا استفاده محدود، حاصل مقایسه ممکن است با یک سرویس پرترافیک و مستمر متفاوت باشد. بهتر است تصمیم طبق چند سناریوی واقعی از میزان استفاده گرفته شود.

آزمایش اولیه می‌تواند با بخشی از داده‌ها و درخواست‌های واقعی انجام شود. هدف این است که مشخص شود پیکربندی پیشنهادی چه کاراییی در کاربرد موردنظر دارد.

معیارهای مفید برای مرور عبارت‌اند از:

حاصل این آزمایش باید در کنار هزینه و قابلیت توسعه ارزیابی شود. یک نمونه موفق نیز بهتر است با شرایط استفاده روزمره و رشد احتمالی پروژه مقایسه شود.

پس از راه‌اندازی، زیرساخت به پایش و نگهداری نیاز دارد. مصرف منابع، خطاهای نرم‌افزاری و وضعیت قطعات باید مرور شوند تا اصلاحات نحوه عملکرد قابل پیگیری باشند.

داده‌ها، تنظیمات و فایل‌های مهم پروژه نیز باید در برنامه پشتیبان‌گیری قرار بگیرند. آزمایش بازیابی کمک می‌کند مشخص شود پس از بروز مشکل، بازگرداندن خدمات چگونه انجام خواهد شد.

مسئولیت پشتیبانی، ارتقا و رسیدگی به اختلالات بهتر است از ابتدا روشن باشد. این مبحث برای تبدیل یک پروژه آزمایشی به سرویس قابل استفاده سازمانی اهمیت دارد.

پیش از نهایی کردن تجهیزات، پاسخ این پرسش‌ها را مشخص کنید:

زیرساخت مناسب هوش مصنوعی از هماهنگی مدل، نرم‌افزار و تجهیزات شکل می‌گیرد. با تعریف کاربرد، آزمایش بار واقعی و محاسبه هزینه بهره‌برداری، می‌توان سروری انتخاب کرد که با نیازهای پروژه تناسب داشته باشد و مسیر توسعه آن را روشن‌تر کند.

نوشته چگونه زیرساخت سرور مناسب انتخاب کنیم؟ اولین بار در مستر سرور اچ پی hpe پدیدار شد.