پایان سلطه پردازندهها بر فضای ذخیرهسازی؛ انویدیا cuFile را متنباز کرد
از نظر تاریخی، هر اطلاعاتی که توسط کارت گرافیک از فضای ذخیرهسازی خوانده میشود، باید ابتدا از مسیر پردازنده اصلی (CPU) عبور کند. این پردازنده است که فایل سیستم را مدیریت کرده، دستورات را ارسال میکند و دادهها را برمیگرداند. این فرآیند برای فایلهای بزرگ و یکپارچه مشکلی ایجاد نمیکند، اما زمانی که سیستم بخواهد در هر ثانیه میلیونها فایل بسیار کوچکِ ۵۱۲ بایتی را بخواند، پردازنده به یک گلوگاه جدی تبدیل میشود. شرکت انویدیا در رویداد FMS 2026 از نرمافزار جدیدی پرده برداشت که این محدودیت تاریخی را برای همیشه از بین میبرد.
- خداحافظی با پردازنده: معرفی API جدید cuFile که به کارت گرافیک اجازه میدهد مستقیماً به حافظه متصل شود.
- پلتفرم SCADA: راهکار جدید انویدیا برای مدیریت میلیونها درخواست خواندن تصادفی و کوچک توسط خود گرافیک.
- متنباز شدن: انتشار کامل کدهای cuFile در پلتفرم گیتهاب با پشتیبانی شرکتهایی نظیر گوگل، اینتل و متا.
- پروژه Storage-Next: همکاری بیش از ۴۰ غول ذخیرهسازی برای بهینهسازی درایوها بر اساس خوانشهای ۵۱۲ بایتی.
گلوگاهی به نام پردازنده؛ مشکل اصلی I/O سنتی
سیستمهای مجهز به کارت گرافیک همیشه تحت یک مدل ورودی/خروجی (I/O) مبتنی بر پردازنده کار کردهاند. پردازنده، وظایف گرافیک را زمانبندی میکند و تمام انتقال دادهها بین کارت گرافیک و شبکه یا درایو ذخیرهسازی را کلید میزند. این توقف و هماهنگی مداوم بین پردازنده و گرافیک در فایلهای سنگین اصلاً به چشم نمیآید، اما در عملیاتهای خرد و سریع، تاخیر فاجعهباری ایجاد میکند.
در پروژههای هوش مصنوعی، آموزش مدلها معمولاً با فایلهای بزرگ سر و کار دارد که توقفهای پردازنده در آنها قابل تحمل است. اما در مرحله استنتاج (Inference) اوضاع فرق میکند. سرویسدهی به کشهای کلید-مقدار (KV Cache) و جستجوهای برداری، نیازمند میلیونها بار خواندن تصادفی و کوچک در هر ثانیه است. قرار گرفتن پردازنده در مسیر تکتک این درخواستها، سرعت پاسخگویی هوش مصنوعی را به شدت کاهش میدهد.
ورود SCADA؛ استقلال کارت گرافیک در مدیریت فایلها
انویدیا برای حل این مشکل پلتفرم SCADA را معرفی کرده است. این سیستم به کارت گرافیک اجازه میدهد خودش جریان دادههای ذخیرهسازی را آغاز کرده و مدیریت کند. تحقیقات اولیه این پلتفرم با نام BaM در سال ۲۰۲۳ منتشر شد و نشان داد که وقتی کارت گرافیک مستقیماً درایوهای NVMe را مدیریت کند، سرعت پردازش دادهها ۵.۳ برابر سریعتر از زمانی است که پردازنده وارد عمل شود.
البته دسترسی مستقیم به درایو میتواند خطرات امنیتی داشته باشد، زیرا یک برنامه ممکن است اطلاعات برنامه دیگر را بخواند یا تخریب کند. انویدیا این مشکل را با تفکیک سطوح دسترسی حل کرده است. تنظیمات امنیتی توسط مکانیسمهای استاندارد لینوکس مدیریت میشود و دقیقاً به همین دلیل است که انویدیا این نرمافزار را به جای محدود کردن در کدهای بسته CUDA، به صورت کاملاً متنباز (Open Source) منتشر کرده است.
تفاوت SCADA با سیستم قدیمی GPUDirect Storage
هر عملیات ذخیرهسازی دو بخش دارد: مسیر دادهها و مسیر کنترل (ساخت درخواست و تایید پایان). فناوری قدیمی GPUDirect Storage (GDS) که از سال ۲۰۲۱ در دسترس است، پردازنده را از «مسیر دادهها» حذف کرد. یعنی فایلها مستقیماً بین درایو و گرافیک جابهجا میشدند، اما «مسیر کنترل» همچنان روی پردازنده بود؛ یعنی پردازنده تعیین میکرد چه فایلی و چه زمانی خوانده شود.
برای فایلهای حجیم ۱ مگابایتی این روش عالی بود. اما برای فایلهای ۵۱۲ بایتی، هزینه ایجاد درخواست توسط پردازنده به قدری بالا میرود که پردازنده خیلی زودتر از درایو، به سقف توان خود میرسد (گلوگاه). سیستم SCADA این مشکل را حل میکند و مسیر کنترل را نیز به خود گرافیک منتقل میکند. گرافیک برخلاف پردازنده میتواند صدها هزار درخواست را به صورت همزمان باز نگه دارد.
پروژه Storage-Next؛ حل بحران فایلهای ۵۱۲ بایتی
پلتفرم SCADA مشکل را در سمت کارت گرافیک حل کرد، اما پروژه Storage-Next قرار است مشکل را در سمت درایوها حل کند. درایوهای SSD تجاری در ده سال گذشته برای فایلهای تصادفی ۴ کیلوبایتی تنظیم شدهاند. وقتی مدلهای هوش مصنوعی فایلهای بسیار کوچک ۵۱۲ بایتی را درخواست میکنند، کنترلر هارد دیسک همان انرژی و توانای را مصرف میکند که برای یک فایل ۴ کیلوبایتی مصرف میکرد.
این اتلاف منابع باعث میشود سرعت استنتاج هوش مصنوعی به شدت افت کند. پروژه Storage-Next تلاشی همهجانبه برای طراحی مجدد درایوها، کنترلرها و سیستمها بر اساس فایلهای کوچکتر است. انویدیا با همراهی بیش از ۴۰ غول ذخیرهسازی دنیا از جمله مایکرون و کیوکسیا در حال ساخت درایوهای SSD نسل هفتمی است که بتوانند در هر ثانیه ۱۰۰ میلیون عملیات خرد را پشتیبانی کنند.
تحلیل اختصاصی آلفاتک: چرا اینتل با حذف شدن خودش موافقت کرد؟
استراتژی انویدیا بسیار هوشمندانه است: آنها API ارتباط گرافیک و حافظه را منتشر کرده، آن را متنباز کرده و بیش از ۴۰ سازنده سختافزار را برای استانداردسازی قطعات هماهنگ کردهاند. اما نکته جالبتر، حضور شرکت اینتل به عنوان یکی از حامیان اصلی (Maintainers) این پروژه متنباز است.
اینتل تامینکننده اصلی پردازندههای x86 در سیستمهای ذخیرهسازی فعلی است. در واقع اینتل در حال حمایت از نرمافزاری است که دقیقاً برای حذف پردازندههای این شرکت از مسیر انتقال دادهها طراحی شده است! دلیل این همراهی این است که اینتل متوجه شده نمیتواند در برابر جریان سیلآسای هوش مصنوعی مقاومت کند. آنها ترجیح میدهند با عضویت در این پروژه، کدهای ارتباطی را به گونهای توسعه دهند که حداقل معماری پایه پردازندههایشان همچنان در طراحی نهایی سرورها نقشی داشته باشد، حتی اگر دیگر در مسیر اصلی انتقال داده نباشد.
