گزارش بازدید از آزمایشگاه حرارتی ایسوس ۲۰۲۶؛ جایی که سرورهای هوش مصنوعی کباب می‌شوند!

فصل گذشته، فرصتی دست داد تا از آزمایشگاه تست حرارتی سرورهای ایسوس (ASUS) در تایوان بازدید کنم. این مکان جایی است که شرکت ایسوس آزمایش‌های حرارتی، اعتبارسنجی و حتی تست‌های قابلیت اطمینان بلندمدت را برای مشتریان خود انجام می‌دهد. درون این آزمایشگاه تاسیسات مختلفی وجود دارد که هر کدام روی بخش خاصی تمرکز دارند. یکی از جذاب‌ترین بخش‌های این آزمایشگاه جایی است که ایسوس واقعاً سرورهایش را درون کوره‌هایی می‌پزد تا استرس‌ها و فشارهای مختلف کاری را شبیه‌سازی کند!

(نکته: هزینه این بازدید توسط ایسوس پرداخت شده است و این یک گزارش حمایت‌شده محسوب می‌شود.)

اتاق‌های محیطی (Environmental Chamber)؛ تست در مقیاس رک

توسعه سرورهای هوش مصنوعی آن‌قدر سریع پیش می‌رود که تولیدکنندگان به امکاناتی نیاز دارند تا بتوانند سال‌ها استرس حرارتی را در مدت زمان بسیار کوتاهی شبیه‌سازی کنند. این اتاق‌های بزرگ محیطی برای اعتبارسنجی طراحی هیت‌سینک‌ها، فن‌ها و مقاومت کلی سیستم استفاده می‌شوند.

این اتاق‌های بزرگ (که می‌توان درون آن‌ها راه رفت) تست‌های شرایط عادی دیتاسنترها را در دمای بین ۲۵ تا ۴۵ درجه سانتی‌گراد انجام می‌دهند. در زمان بازدید ما، یک سرور قدرتمند مجهز به ۸ گرافیک NVIDIA HGX B200 (نسل بلک‌ول) درون این اتاق در حال آزمایش بود.

فضای این اتاق آن‌قدر بزرگ است که می‌تواند به جای یک سرور تکی، یک رک کامل را درون خود جای دهد. این موضوع برای سیستم‌های خنک‌شونده با مایع (Liquid-cooled) بسیار مهم است، زیرا رفتار جریان مایع و توزیع آن در مقیاس یک رک کامل، کاملاً با یک سرور تکی متفاوت است.

امروزه زیرساخت‌های هوش مصنوعی به اعتبارسنجی در سطح کل سیستم نیاز دارند و اتاق‌های تست قدیمی که فقط به اندازه یک سرور 4U جا داشتند، دیگر جوابگو نیستند.

اتاق شرایط حاد محیطی؛ از یخبندان تا سونا!

این اتاق برای شرایطی طراحی شده که از حالت عادی یک دیتاسنتر فراتر می‌رود. این محفظه می‌تواند دمای منفی ۴۰ تا مثبت ۸۵ درجه سانتی‌گراد را شبیه‌سازی کند! رطوبت نیز از ۱۰ درصد تا ۹۸ درصد قابل تنظیم است. این یعنی شبیه‌سازی همه چیز؛ از نصب تجهیزات در محیط‌های سرد بیرون از ساختمان گرفته تا مناطق گرمسیری و به شدت مرطوب.

تست در این شرایط حاد دو هدف دارد: اول اینکه ثابت می‌کند قطعات سرور در حین حمل‌ونقل با هواپیما یا کشتی در محیط‌های بدون کنترل دما، جان سالم به در می‌برند. دوم اینکه نقاط ضعف سیستم را که فقط تحت فشار حرارتی طولانی‌مدت خود را نشان می‌دهند، شناسایی می‌کند. کار کردن سرورها در دمای ۸۵ درجه برای مدت طولانی، باعث تسریع روند پیر شدن (Aging) قطعات می‌شود و خرابی‌هایی را نشان می‌دهد که در حالت عادی سال‌ها طول می‌کشید تا نمایان شوند.

در زمان بازدید، ایسوس در حال تست یک رک خنک‌شونده با مایع در دمای ۲۰ درجه بود، اما دماهای بالاتر را نیز آزمایش می‌کرد. استفاده از مایع گرم‌تر برای خنک‌سازی باعث کاهش مصرف برق چیلرها می‌شود، اما باید دید این کار چه تاثیری روی طول عمر قطعات دارد. پیدا کردن این تعادل نیازمند هزاران ساعت آزمایش است.

آزمایشگاه تحقیق و توسعه هوش مصنوعی (AI R&D Lab)

این آزمایشگاه بیشتر روی نحوه پیاده‌سازی و یکپارچه‌سازی سیستم‌های خنک‌کننده مایع در مقیاس رک تمرکز دارد.

ردیف‌هایی از رک‌ها در این فضا قرار دارند. توزیع برق از بالای سر (سقف) انجام می‌شود و زیرساخت لوله‌های خنک‌کننده مایع در زیر کف کاذب (Raised Floor) جریان دارد. این چیدمان دقیقاً شبیه چیزی است که مشتریان در دیتاسنترهای واقعی خود پیاده می‌کنند.

ایسوس باید مطمئن شود که سیستم تشخیص نشتی (Leak Detection) به درستی کار می‌کند. امروزه چالش صنعت فقط پیدا کردن نشتی نیست، بلکه اطمینان از این است که یک نشتی کوچک، کمترین آسیب را به کل عملکرد کلاستر وارد کند.

این تاسیسات می‌تواند تا ۱.۱ مگاوات برق را مدیریت کند. رک‌های هوش مصنوعی خنک‌شونده با مایع، نسبت به سرورهای سنتی به شدت پرمصرف‌تر هستند و تست عملکرد حرارتی در این مقیاس، نیازمند زیرساختی است که با محیط‌های واقعی برابری کند.

بخش جالب این آزمایشگاه کارهایی است که معمولاً وقتی یک رک آماده را می‌بینیم، به چشم نمی‌آیند. ما فقط رک‌های کامل انویدیا را می‌بینیم، اما اینجا تک‌تک نودها (Nodes) به دستگاه‌های اسیلوسکوپ (مثل برند Tektronix) متصل شده و سیگنال‌های الکتریکی آن‌ها به دقت بررسی می‌شود.

از آنجا که این آزمایشگاه هم قطعات هوا-خنک و هم مایع-خنک را مدیریت می‌کند، دارای سیستم‌های تهویه هوای غول‌پیکری شبیه دیتاسنترهای سنتی است تا هوای گرم راهروها را مکیده، خنک کرده و به راهروهای سرد برگرداند.

اتاق چیلر و تامین برق؛ قلب تپنده خنک‌کننده مایع

در کنار آزمایشگاه R&D، اتاق تامین برق و چیلر قرار دارد. تابلوهای برق غول‌پیکری روی یکی از دیوارها نصب شده‌اند که از ظرفیت ۱.۱ مگاواتی این مرکز پشتیبانی می‌کنند.

در سمت دیگر، یک چیلر عظیم قرار دارد که وظیفه دفع حرارت از حلقه‌های مایع خنک‌کننده را بر عهده دارد. این چیلر می‌تواند تا ۱.۳ مگاوات قدرت خنک‌کنندگی ارائه دهد که از کل برق مصرفی آزمایشگاه نیز بیشتر است تا در زمان پیک فشار کاری، سیستم دچار افت نشود. برخلاف سرورهای بادی که می‌توان با پرتاب هوای بیشتر آن‌ها را موقتاً خنک کرد، در سیستم‌های مایع به چیلرهایی نیاز است که بتوانند بارهای حرارتی پایدار و بالا را تحمل کنند.

طراحی این چیلرها نسبت به سیستم‌های سنتی، مصرف برق را حدود ۴۰ درصد کاهش می‌دهد. این بهره‌وری به این دلیل است که دمای مایع دقیقاً با نیاز لحظه‌ای سرور تنظیم می‌شود. امروزه وقتی می‌گوییم «خنک‌کننده»، در واقع از آبی با دمای نزدیک به دمای اتاق استفاده می‌شود! مهم‌ترین عامل، «سرعت جریان مایع» و «اختلاف دما» است تا حرارت دفع شود. هرچه آب مصرفی گرم‌تر باشد، برق کمتری برای خنک کردن آن مصرف می‌شود.

سیستم مدیریت و مانیتورینگ از راه دور

سیستم‌های هوش مصنوعی در مقیاس رک، به ابزارهای نظارتی بسیار دقیقی نیاز دارند. سیستم ASUS Control Center امکان مشاهده وضعیت تک‌تک نودها (سرورها) تا مقیاس کل دیتاسنتر را فراهم می‌کند. در زمان بازدید، دیدیم که چگونه اپراتورها می‌توانند با چند کلیک، وضعیت فن‌ها، دما و مصرف برق هر سرور را بررسی کنند.

تست‌ها معمولاً چند روز یا چند هفته بدون وقفه ادامه دارند و نیاز به نظارت ۲۴ ساعته دارند. اگر متغیری از محدوده مجاز خارج شود، سیستم هشدار می‌دهد تا قبل از آسیب رسیدن به سخت‌افزارهای گران‌قیمت، جلوی فاجعه گرفته شود.

هدف اصلی این است که سرورها آن‌قدر قابل‌اطمینان باشند که نیازی به ورود فیزیکی تکنسین‌ها به سالن دیتاسنتر نباشد. نرم‌افزار AIDC ایسوس نه‌تنها سیستم‌ها را مانیتور می‌کند، بلکه می‌تواند نرم‌افزارها را به صورت یکپارچه روی کل کلاستر نصب کند.