رونمایی AIC از سرور ذخیرهسازی JBOF با ۳۲ درایو SSD برای کشینگ کلید-مقدار (Key-Value)
هرچند نمایشگاه اخیر کامپیوتکس (Computex) به شدت روی پردازندهها و سرورهای محاسباتی متمرکز بود، اما در دنیای سرورها همه چیز به محاسبات ختم نمیشود. ذخیرهسازی دادهها همیشه بخش مهمی از طراحی سرور بوده است و در سالهای اخیر، ذخیرهسازی پرسرعت اهمیت دوچندانی پیدا کرده است. سرورهای هوش مصنوعی نه تنها به حجم عظیمی از فضای ذخیرهسازی برای اجرای مدلهای خود نیاز دارند، بلکه امروزه برای کشینگ اطلاعات کلید-مقدار (Key-Value) به حافظههای پویای قدرتمندی وابستهاند.
- پلتفرم JBOF پیشرفته: شرکت AIC از سرور ذخیرهسازی جدید F2032-01-G6 با ابعاد 2U رونمایی کرد.
- ظرفیت خیرهکننده: پشتیبانی از ۳۲ درایو E3 SSD با رابط PCIe Gen6 که ظرفیت کل را تا ۸ پتابایت میرساند.
- قلب تپنده انویدیا: این سیستم برای کار با واحدهای پردازش داده (DPU) مدل BlueField-4 انویدیا طراحی شده است.
- کاربرد اصلی: ایدهآل برای کشینگ کلید-مقدار (KV Caching) در کلاسترهای بزرگ استنتاج هوش مصنوعی.
تکامل از نسل ۵ به نسل ۶؛ همراستا با استانداردهای انویدیا
سرور F2032-01-G6 به نوعی جانشین سرور JBOF قبلی این شرکت یعنی مدل F2026-01-G5 (که مبتنی بر PCIe Gen5 بود) محسوب میشود. در حالی که سیستم قدیمیتر از نسل قبلی فناوری PCIe استفاده میکرد و دارای ۲۶ محفظه برای درایوهای ۲.۵ اینچی U.2 بود، پلتفرم جدید یک نوسازی کامل به شمار میرود. قابلیتهای ذخیرهسازی، ورودی/خروجی (I/O) و شبکه در این مدل به جدیدترین نسل ارتقا یافتهاند. این جعبه ذخیرهسازی (JBOF) جدید، شرکت AIC را بیش از پیش به استاندارد پلتفرم Context Memory Storage (CMX) انویدیا نزدیک میکند؛ پلتفرمی که برای ادغام در رکهای معماری Vera Rubin طراحی شده است.
طراحی ذخیرهسازی؛ جای دادن ۸ پتابایت در فضای 2U
از منظر ذخیرهسازی، سرور F2032-01-G6 تا جای ممکن حافظههای فلش را در یک شاسی 2U فشرده کرده است. شرکت AIC این دستگاه JBOF را برای استفاده از SSDهایی با فرمفاکتور E3 طراحی کرده است. این سیستم میتواند هر دو نسخه بلند (E3.L) و کوتاه (E3.S) از این SSDهای ۷.۵ میلیمتری را درون خود جای دهد.
طراحی این سرور به گونهای است که بخش عمدهای از پنل جلویی به سینیهای ذخیرهسازی Hot-Swap (با قابلیت تعویض در حین کار) اختصاص یافته است. بین هر جفت درایو، دریچههای باریکی تعبیه شده تا جریان هوا به بقیه قسمتهای سیستم برسد و خنکسازی به درستی انجام شود.
با توجه به اینکه درایوهای E3.L با ظرفیتهای تا ۲۵۶ ترابایت در دسترس هستند، این سرور ظرفیت ذخیرهسازی عظیمی را ارائه میدهد. برای دیتاسنترهایی که با حافظههای اقتصادیتر QLC مشکلی ندارند، سقف ظرفیت این جعبه 2U به ۸ پتابایت میرسد! در صورت استفاده از حافظههای سریعتر TLC NAND، این ظرفیت حدوداً نصف خواهد شد.
ساختار داخلی و سوئیچ غولپیکر Broadcom
بستر داخلی ورودی/خروجی (I/O Fabric) این سیستم حول محور سوئیچ عظیم ۱۴۴ مسیرهی PEX90144 (نسل ششم PCIe) از شرکت Broadcom ساخته شده است. اگرچه AIC در نمایشگاه کامپیوتکس اجازه نداد داخل این سرور را به طور کامل ببینیم، اما پیشتر در رویداد SC25 شانس بررسی این کنترلر را روی سیستم PowerEdge دل داشتیم.
شرکت AIC هنوز نمودار معماری دقیقی برای این سرور ذخیرهسازی منتشر نکرده است، اما بر اساس مدل نسل قبلی، احتمالاً AIC برای به حداکثر رساندن ظرفیت ذخیرهسازی، به هر SSD دو مسیر (2 Lanes) اختصاص میدهد. در این صورت، ارتقا به PCIe Gen6 به جبران افت پهنای باندی که معمولاً در پیکربندی دو مسیره (x2) رخ میدهد، کمک شایانی خواهد کرد.
شبکه و یکپارچگی با DPUهای BlueField انویدیا
در بخش شبکه، AIC سرور را به گونهای طراحی کرده که ترکیبی از کارتهای شبکه (NIC) و DPUها را در خود جای دهد، هرچند تمرکز اصلی مشخصاً روی DPUهاست. این سیستم توسط یک جفت نود (Node) هدایت میشود که هر کدام منبع تغذیه اختصاصی خود را دارند و میتوانند تا دو کارت توسعه شبکه (یا حتی یک کارت گرافیک) را در خود جای دهند.
این دستگاه JBOF به گونهای طراحی شده که حداقل توسط یکی از واحدهای پردازش داده BlueField-4 انویدیا کنترل شود. این DPUها (ترکیبی از پردازنده Grace و شبکه ConnectX-9) از شبکههای ۸۰۰ گیگابیتی اترنت یا اینفینیبند (InfiniBand) پشتیبانی میکنند و برای اتصالات I/O خود از PCIe Gen6 بهره میبرند. این DPUها به عنوان مغز متفکر سیستم عمل کرده و نقش کنترلر ذخیرهسازی و درگاه دسترسی به تمامی SSDها را ایفا میکنند.
شرکت AIC صراحتاً مدل F2032-01-G6 را به عنوان یک سیستم با دسترسپذیری بالا (High-Availability) معرفی میکند؛ بنابراین پشتیبانی از DPUها به صورت جفتی تصادفی نیست. با قرارگیری حداکثر دو DPU در یک نود واحد، نود دوم امکان عملکرد کاملاً افزونه (Redundant) را فراهم میکند. بنابراین حتی اگر یک DPU (یا بخشی از آن) از کار بیفتد، کل سیستم JBOF بدون مشکل به کار خود ادامه میدهد.
با توجه به اتکای شدید این سیستم به سختافزارهای انویدیا، وظیفه اصلی آن عمل به عنوان یک «کش کلید-مقدار» (KV Cache) به عنوان بخشی از پلتفرم ذخیرهسازی زمینه انویدیا (CMX) است. این پلتفرم راهکار اختصاصی انویدیا برای پشتیبانی از سیستمهای معماری Vera Rubin محسوب میشود.
البته با توجه به انعطافپذیری بالای این سرور، AIC آن را به عنوان راهکاری برای موارد استفاده عمومیتر مانند ذخیرهسازی شیگرا (Object Storage)، سیستمهای فایل Scale-out و لایهبندی فضای ذخیرهسازی فلش نیز پیشنهاد میدهد.
تحلیل اختصاصی آلفاتک: چرا این معماری برای هوش مصنوعی ضروری است؟
با گسترش روزافزون مدلهای هوش مصنوعی، کشهای عظیم کلید-مقدار (KV Caches) به یک جزء الزامی در کلاسترهای بزرگ استنتاج (Inference) تبدیل شدهاند تا از افت عملکرد جلوگیری کنند. سرورهای JBOF مانند مدل جدید AIC قرار است به یک منظره رایج در دیتاسنترهای هوش مصنوعی تبدیل شوند.
دلیل اصلی این موضوع ساده است: ذخیره مقادیر کلیدی در نزدیکترین فاصله ممکن به پردازندههای گرافیکی (GPU) که در حال انجام استنتاج هستند، برای افزایش سرعت و مقیاسپذیری حیاتی است. این یعنی SSDها باید بهینهترین مسیر ارتباطی را با GPUها داشته باشند؛ نقشی که F2032-01-G6 به طور ویژه برای آن طراحی شده است. شرکت AIC با تکیه بر تجربه موفق خود در سختافزارهای نسل قبل، اکنون در جایگاه بسیار خوبی قرار دارد تا بخش بزرگی از بازار تجهیزات منطبق با نسل BlueField-4 و Vera Rubin انویدیا را به خود اختصاص دهد.
