پاسخ محکم ای‌ام‌دی به انویدیا روبین؛ معرفی پردازنده گرافیکی MI455X و رک ۷۲ تایی هلیوس

شرکت ای‌ام‌دی در جریان بزرگ‌ترین رویداد خود تحت عنوان Advancing AI، محور اصلی برنامه‌هایش را روی توسعه مقیاس‌پذیر زیرساخت‌های هوش مصنوعی قرار داد. تمرکز اصلی این مراسم، معرفی پردازنده گرافیکی پرچمدار Instinct MI455X، رک ۷۲ تایی هلیوس (Helios) و پردازنده‌های مرکزی نسل ششم اپیک (با اسم رمز ونیز) بود.

پردازنده MI455X به ۴۳۲ گیگابایت حافظه پرسرعت HBM4 مجهز است که نشان‌دهنده افزایش ۵۰ درصدی ظرفیت نسبت به پردازنده‌های B300 و روبین انویدیا است. این تراشه پهنای باند حافظه ۲۳.۳ ترابایت بر ثانیه را ارائه می‌دهد. یک رک کامل هلیوس با ترکیب ۷۲ کارت گرافیک، توان پردازشی ۲.۹ اگضافلاپس در فرمت FP4 و ۳۱ ترابایت حافظه HBM4 را در اختیار دیتاسنترها قرار می‌دهد.

رویکرد دیگر ای‌ام‌دی، آزادی عمل و استفاده از استانداردهای باز در تمام لایه‌ها است. درون رک، تمام ۷۲ کارت گرافیک حافظه خود را از طریق پروتکل باز UALink به اشتراک می‌گذارند. در خارج از رک نیز ارتباطات بر پایه استاندارد Ultra Ethernet مدیریت می‌شود. نرم‌افزارها و کتابخانه‌های پلتفرم ROCm نیز به صورت کاملاً متن‌باز در دسترس توسعه‌دهندگان قرار گرفته‌اند تا ارائه‌دهندگان خدمات ابری بتوانند چیدمان رک‌ها را متناسب با نیاز خود تغییر دهند.

مشخصات فنی پردازنده گرافیکی AMD Instinct MI455X

تراشه MI455X اولین پردازنده ساخته شده با معماری CDNA 5 است که ۳۲۰ میلیارد ترانزیستور را در خود جای داده است. این پردازنده از ۸ دای پردازشی (XCD) روی لیتوگرافی ۲ نانومتری TSMC تشکیل شده است. همچنین دو دای ورودی/خروجی و دو دای فابریک/کش روی پایه ۳ نانومتری قرار دارند که در کنار ۱۲ پشته حافظه HBM4 مونتاژ شده‌اند.

در بخش ارتباطات، کارت گرافیک MI455X دارای ۷۲ مسیر ارتباطی UALoE با پهنای باند ۳.۶ ترابایت بر ثانیه است. این کارت همچنین از درگاه‌های PCIe Gen6 و سه کارت شبکه اختصاصی برای ارتباطات برون‌رکی پشتیبانی می‌کند.

بررسی جدول بالا نشان می‌دهد که تراشه MI455X در بیشتر شاخص‌ها از رقبای خود پیش است. این کارت ۵۰ درصد ظرفیت حافظه بیشتری ارائه می‌دهد و پهنای باند برون‌رکی آن نیز ۵۰ درصد بیشتر از کارت انویدیا روبین است. در بخش توان محاسباتی نیز عملکرد متفاوتی را در فرمت‌های ریاضی شاهد هستیم:

نگاهی به معماری جدید CDNA 5 و سوئیچ به Wave32

تغییرات معماری در CDNA 5 بسیار بنیادی بوده است. در نسل قبلی (MI355X)، هر دای پردازشی دارای ۳۲ واحد محاسباتی مستقل و ۴ مگابایت حافظه کش سطح دوم بود. اما در CDNA 5، ساختار داخلی کاملاً بازطراحی شده است.

مهم‌ترین تغییر، گذر از ساختار Wave64 به Wave32 است. دسته‌های ۳۲تایی دستورالعمل‌ها اکنون به صورت مستقیم با واحدهای پردازشی متناظر می‌شوند و در یک سیکل ساعت اجرا می‌گردند. این کار تاخیر دستورالعمل‌ها را کاهش داده و مدیریت حافظه را آسان‌تر می‌کند.

تحول در ساختار حافظه و حذف کش‌های قدیمی

لایه‌های حافظه در این تراشه از بالا تا پایین دستخوش تغییر شده‌اند. ای‌ام‌دی کش‌های سطح دوم جداگانه در دای‌های پردازشی را حذف کرده و آن‌ها را با دو حافظه کش ۹۶ مگابایتی یکپارچه روی دای‌های پایه جایگزین کرده است.

این تغییر باعث شده که پهنای باند کل کش‌ها به ۳ برابر نسل قبلی برسد. همچنین حافظه اختصاصی هر واحد به ۳۸۴ کیلوبایت افزایش یافته که فضا را برای اجرای بهینه الگوریتم‌های هوش مصنوعی فراهم می‌کند.

طراحی جدید امکان تقسیم‌بندی کارت گرافیک به ۱، ۲، ۴ یا ۸ بخش کاملاً مستقل را فراهم می‌کند. فناوری SR-IOV اجازه می‌دهد این بخش‌ها به صورت ماشین‌های مجازی ایزوله در دیتاسنتر استفاده شوند.

بررسی رک غول‌پیکر هلیوس و سینی‌های پردازشی

رک هلیوس بر پایه ابعاد استاندارد Open Rack Wide ساخته شده است؛ کابینتی با عرض ۱.۲ متر و ارتفاع ۴۴ یونیت که ۷۲ کارت گرافیک را در خود جای می‌دهد. مصرف برق این رک بین ۲۲۵ تا ۲۴۵ کیلووات است که توسط سیستم خنک‌کننده مایع خنک می‌شود.

هر سینی پردازشی (Compute Tray) شامل ۴ کارت گرافیک MI455X و یک پردازنده ۹۶ هسته‌ای ونیز است. پردازنده مرکزی از طریق ۱۶ کانال DDR5 توانایی پشتیبانی از ۴ ترابایت رم را دارد و با لینک‌های اختصاصی با کارت‌های گرافیک در ارتباط است.

ارتباطات شبکه در سه سطح مدیریت می‌شوند: شبکه جلویی برای اتصال به دیتاسنتر، شبکه توسعه افقی برای اتصال رک‌ها به یکدیگر، و شبکه توسعه عمودی که ۷۲ کارت گرافیک را به یک حافظه مشترک متصل می‌کند.

بخش سوئیچ‌ها شامل ۶ سینی است که ۱۲ تراشه استاندارد Broadcom Tomahawk 6 را در خود جای داده است. این طراحی به جای استفاده از سوئیچ‌های سفارشی، اتصالات را ساده‌تر کرده است.

یکی از ویژگی‌های این رک، تحمل بالای خطا در صورت خرابی قطعات است. اگر یک سوئیچ یا کابل قطعی پیدا کند، ترافیک شبکه به طور خودکار بازسیری می‌شود و پردازش هوش مصنوعی بدون توقف ادامه می‌یابد.

با استفاده از قابلیتی به نام vPod، اپراتورها می‌توانند رک را به بخش‌های نرم‌افزاری کاملاً مجزا تقسیم کنند تا چند مشتری مختلف از یک رک استفاده کنند بدون اینکه به داده‌های یکدیگر دسترسی داشته باشند.

مدیریت کل سیستم بر عهده نرم‌افزاری به نام AFM است که بدون نیاز به سرور مدیریت مجزا، روی خود سوئیچ‌ها اجرا شده و سلامت تمام خطوط را کنترل می‌کند.

مقایسه مستقیم هلیوس ای‌ام‌دی با ورا روبین انویدیا

تست‌های ای‌ام‌دی نشان می‌دهد که این رک در مدل‌های زبانی مانند Kimi K2 بین ۱۰ تا ۳۰ درصد عملکرد بهتری به ازای هر دلار نسبت به سیستم انویدیا ارائه می‌دهد.

تفاوت اصلی دو سیستم در نحوه اتصال کارت‌های شبکه است. در کارت‌های ای‌ام‌دی، شبکه مستقیماً به کارت گرافیک متصل است؛ اما در معماری انویدیا، داده‌ها باید ابتدا از پردازنده مرکزی عبور کنند که باعث تاخیر جزیی می‌شود.

کارت شبکه پنساندو سالینا و پلتفرم نرم‌افزاری ROCm.AI

کارت شبکه Salina نسل سوم واحدهای پردازش داده ای‌ام‌دی است که با سرعت ۴۰۰ گیگابیت بر ثانیه کار می‌کند. این کارت به انتقال حافظه کش هوش مصنوعی به حافظه‌های جانبی کمک می‌کند تا نیاز به پردازش مجدد داده‌ها کاهش یابد.

در بخش نرم‌افزار، پلتفرم ROCm.AI معرفی شد که ابزارهای بهینه‌سازی خودکار را ارائه می‌دهد. این نرم‌افزار توانسته تا ۳.۳ برابر سرعت پردازش پاسخ‌ها را در مقایسه با نسخه‌های قبلی روی سخت‌افزار یکسان افزایش دهد.