در سالهای اخیر، پیشرفت هوش مصنوعی بیش از هر زمان دیگری به قدرت پردازش وابسته شده است. اما برخلاف تصور رایج، بزرگترین چالش سیستمهای هوش مصنوعی دیگر کمبود توان پردازشی GPU نیست؛ بلکه سرعت تبادل داده میان پردازنده مرکزی (CPU) و پردازنده گرافیکی (GPU) است.
NVIDIA با معرفی فناوری NVLink-C2C (Chip-to-Chip) این گلوگاه قدیمی را هدف قرار داده و معماری جدیدی ارائه کرده است که در آن CPU و GPU دیگر دو پردازنده مستقل نیستند، بلکه مانند اجزای یک سیستم واحد با حافظه مشترک و ارتباطی بسیار پرسرعت عمل میکنند.
این فناوری، پایه اصلی محصولات نسل جدید NVIDIA از جمله DGX Spark، DGX Station، GB200 Grace Blackwell Superchip و GB300 محسوب میشود.
چرا NVIDIA فناوری NVLink-C2C را توسعه داد؟
برای درک اهمیت این فناوری، ابتدا باید معماری رایج کامپیوترهای امروزی را بررسی کنیم.
در اکثر سرورها و ورکاستیشنها، CPU و GPU از طریق گذرگاه PCI Express (PCIe) به یکدیگر متصل میشوند.
در این معماری:
- CPU از حافظه اصلی (RAM) استفاده میکند.
- GPU از حافظه اختصاصی خود (HBM یا GDDR) استفاده میکند.
- برای پردازش داده، اطلاعات باید دائماً بین RAM و حافظه GPU جابهجا شوند.
هرچند PCI Express طی سالهای گذشته سریعتر شده است، اما هنوز هم در بارهای کاری هوش مصنوعی، انتقال داده یکی از بزرگترین عوامل محدودکننده عملکرد سیستم محسوب میشود.
بهعنوان مثال، هنگام آموزش یا اجرای مدلهای زبانی بزرگ (LLM)، ممکن است صدها گیگابایت داده بین CPU و GPU جابهجا شود. این جابهجایی علاوه بر افزایش زمان پردازش، موجب کاهش بهرهوری GPU نیز میشود؛ زیرا GPU بخشی از زمان خود را در انتظار دریافت داده سپری میکند.
NVLink-C2C چیست؟
NVLink-C2C مخفف NVLink chip-to-chip interconnect است.
برخلاف فناوری NVLink که برای ارتباط میان چند GPU طراحی شده است، NVLink-C2C ارتباط مستقیم میان دو تراشه داخل یک بسته پردازشی (Package) مانند GB200 را فراهم میکند.
در این معماری، پردازنده Grace CPU و پردازنده Blackwell GPU از طریق یک لینک اختصاصی با پهنای باند بسیار بالا به یکدیگر متصل میشوند و دیگر نیازی به استفاده از PCI Express برای ارتباط داخلی آنها وجود ندارد.
به بیان ساده، CPU و GPU دیگر مانند دو قطعه جداگانه روی مادربرد نیستند؛ بلکه از ابتدا برای همکاری با یکدیگر طراحی شدهاند.
تفاوت NVLink-C2C با PCI Express
اگرچه PCI Express یک استاندارد عمومی و بسیار موفق است، اما برای اتصال انواع مختلف تجهیزات طراحی شده است؛ از کارتهای شبکه و SSD گرفته تا کارتهای گرافیک.
NVLink-C2C برخلاف PCIe، تنها یک هدف دارد:
ایجاد سریعترین ارتباط ممکن میان CPU و GPU.
به همین دلیل، این فناوری میتواند پهنای باندی چندین برابر بیشتر از PCIe ارائه دهد و تأخیر انتقال داده را به شکل محسوسی کاهش دهد.
در نسل Grace Hopper این ارتباط به حدود ۹۰۰ گیگابایت بر ثانیه و در نسل Grace Blackwell به حدود ۱٫۸ ترابایت بر ثانیه میرسد که چندین برابر سریعتر از PCIe Gen5 است.
Coherent Memory؛ مهمترین دستاورد NVLink-C2C
مهمترین ویژگی NVLink-C2C تنها سرعت بیشتر نیست.
تحول واقعی، Cache Coherent Memory یا حافظه منسجم است.
در معماریهای سنتی:
- CPU تنها حافظه RAM را مشاهده میکند.
- GPU تنها حافظه HBM یا GDDR خود را مشاهده میکند.
به همین دلیل، دادهها باید دائماً بین این دو حافظه کپی شوند.
اما در معماری Grace Blackwell، CPU و GPU میتوانند حافظه یکدیگر را بهصورت هماهنگ مشاهده و مدیریت کنند.
در نتیجه:
- نیاز به کپی مکرر دادهها کاهش مییابد.
- پردازش دادههای حجیم سریعتر انجام میشود.
- بهرهوری GPU افزایش پیدا میکند.
- زمان انتظار پردازندهها برای دریافت داده کاهش مییابد.
چرا این موضوع برای مدلهای زبانی بزرگ اهمیت دارد؟
امروزه بسیاری از مدلهای هوش مصنوعی دارای صدها میلیارد پارامتر هستند.
اندازه چنین مدلهایی ممکن است به صدها گیگابایت برسد.
در معماریهای قدیمی، اگر کل مدل در حافظه GPU قرار نمیگرفت، سیستم مجبور بود بهطور مداوم دادهها را میان RAM و حافظه GPU جابهجا کند.
NVLink-C2C این مشکل را تا حد زیادی برطرف میکند.
GPU میتواند با سرعت بسیار بالا به دادههایی که در حافظه CPU قرار دارند دسترسی پیدا کند و دیگر لازم نیست همه اطلاعات در حافظه HBM یا GDDR ذخیره شوند.
این موضوع اجرای مدلهای بسیار بزرگ را سادهتر و اقتصادیتر میکند.
NVLink-C2C در محصولات NVIDIA چگونه استفاده میشود؟
NVIDIA DGX Spark
در DGX Spark، پردازنده GB10 Grace Blackwell Superchip از ابتدا بر پایه NVLink-C2C طراحی شده است.
این موضوع باعث میشود یک سیستم رومیزی بتواند عملکردی نزدیک به سیستمهای هوش مصنوعی دیتاسنتری ارائه دهد.
NVIDIA DGX Station
در DGX Station نیز همین معماری استفاده شده است.
CPU و GPU بهصورت یکپارچه عمل میکنند و توسعهدهندگان دیگر مجبور نیستند دائماً نگران محل قرارگیری دادهها در RAM یا VRAM باشند.
به همین دلیل DGX Station برای توسعه مدلهای زبانی، Fine-tuning، Agentic AI، بینایی ماشین و Digital Twin به گزینهای بسیار قدرتمند تبدیل شده است.
GB200 و GB300
در سوپرچیپهای GB200 و GB300، ابتدا Grace CPU و Blackwell GPU توسط NVLink-C2C به یکدیگر متصل میشوند.
سپس این سوپرچیپها از طریق NVLink Fabric با دهها GPU دیگر ارتباط برقرار میکنند و کلاسترهای عظیم هوش مصنوعی را تشکیل میدهند.
در واقع:
- NVLink-C2C ارتباط درون سوپرچیپ را مدیریت میکند.
- NVLink Fabric ارتباط میان سوپرچیپها و GPUهای مختلف را بر عهده دارد.
تفاوت NVLink و NVLink-C2C
بسیاری از کاربران این دو فناوری را با یکدیگر اشتباه میگیرند.
در حالی که هدف آنها کاملاً متفاوت است.
| NVLink | NVLink-C2C |
|---|---|
| ارتباط GPU با GPU | ارتباط CPU با GPU |
| مناسب سیستمهای چند GPU | مناسب سوپرچیپهای Grace Blackwell |
| افزایش مقیاسپذیری کلاسترها | حذف گلوگاه ارتباط CPU و GPU |
| استفاده در NVLink Fabric | استفاده داخل یک Package |
مزایای NVLink-C2C برای سازمانها
سازمانهایی که روی توسعه و اجرای مدلهای هوش مصنوعی سرمایهگذاری میکنند، از این فناوری مزایای قابلتوجهی دریافت میکنند:
- کاهش چشمگیر تأخیر میان CPU و GPU
- افزایش بهرهوری GPU و کاهش زمان انتظار برای دریافت داده
- اجرای سادهتر مدلهای زبانی بسیار بزرگ
- کاهش نیاز به کپی مکرر دادهها میان حافظه سیستم و حافظه GPU
- استفاده مؤثرتر از حافظه موجود
- افزایش کارایی سیستمهای هوش مصنوعی، شبیهسازی و محاسبات علمی
جمعبندی
NVLink-C2C را نباید صرفاً یک رابط ارتباطی جدید یا جایگزینی برای PCI Express دانست. این فناوری در واقع یک تغییر بنیادین در معماری سیستمهای محاسباتی هوش مصنوعی است.
برای نخستین بار، CPU و GPU بهگونهای طراحی شدهاند که مانند اجزای یک سامانه واحد با حافظه منسجم، پهنای باند بسیار بالا و تأخیر بسیار پایین همکاری کنند. این رویکرد نهتنها عملکرد سیستم را افزایش میدهد، بلکه توسعه و اجرای مدلهای بزرگ هوش مصنوعی را نیز سادهتر، سریعتر و مقرونبهصرفهتر میسازد.
به همین دلیل، NVLink-C2C یکی از مهمترین فناوریهای نسل Blackwell محسوب میشود و نقش کلیدی در موفقیت محصولاتی مانند NVIDIA DGX Spark، NVIDIA DGX Station، GB200 و GB300 ایفا میکند. این فناوری نشاندهنده تغییر رویکرد صنعت از «اتصال پردازندهها» به سمت «طراحی سامانههای محاسباتی یکپارچه برای هوش مصنوعی» است.
