نقش رو به رشد صنعت آی سی در پایداری

نیازهای انبوه سیستم های هوش مصنوعی به انرژی، پایداری در اکوسیستم نیمه هادی را مورد توجه قرار داده است. صنعت تراشه باید بتواند نیمه هادی های کارآمدتر و کم توان تولید کند. اما تقاضا برای افزایش سرعت پردازش با استفاده گسترده از مدل های زبان بزرگ و افزایش کلی در مقدار داده هایی که باید پردازش شوند در حال افزایش است. گارتنر تخمین می‌زند که 50 درصد سازمان‌ها تا سال 2026 نظارت مبتنی بر پایداری را برای مدیریت مصرف انرژی و معیارهای ردپای کربن برای محیط‌های ابری هیبریدی خود اتخاذ خواهند کرد. به گفته این شرکت، با توجه به اینکه احتمالاً 40 درصد از مراکز داده تا سال 2027 با محدودیت انرژی مواجه خواهند شد، ضروری است.

 

اگر نیمه هادی ها به درستی طراحی شوند، می توانند به پایداری کمک کنند. این حتی برای تراشه‌های AI/ML که برای حداکثر کارایی طراحی شده‌اند نیز صادق است، به شرطی که بتوانند محاسبات را با استفاده از الگوریتم‌های پراکنده‌تر انجام دهند. که منجر به کاهش کلی در مقدار انرژی مصرف شده می شود. اینجاست که شتاب دهنده های سفارشی وارد عمل می شوند. آنها می توانند در مقایسه با پردازنده های همه منظوره که اغلب پشت سر هم کار می کنند، پیشرفت های قابل توجهی را ارائه دهند.

 

ردپای در حال رشد هوش مصنوعی

محاسبات در همه جا اتفاق می افتد و همه آنها باید کارآمدتر باشند. شهرهای هوشمند، زیرساخت‌های هوشمند و حمل‌ونقل هوشمند بدون فناوری هوشمند امکان‌پذیر نیستند و به طور فزاینده‌ای توسط هوش مصنوعی فعال می‌شوند. همانطور که هوش مصنوعی قوی تر می شود، اکوسیستم نیمه هادی در تلاش است تا تاثیر آن را بر منابع به حداقل برساند.

 

مراکز داده امروزی انرژی زیادی مصرف می کنند. در سطح جهان، سالانه 460 تراوات ساعت (TWh) برق مورد نیاز است. این معادل کل انرژی تولید شده توسط آلمان است. بر اساس گزارش گروه مشاوره بوستون، در ایالات متحده، مصرف برق مرکز داده 2.5٪ از کل ایالات متحده (~ 130 TWh) در سال 2022 بود و انتظار می رود تا سال 2030 به 7.5٪ (~390 TWh) افزایش یابد. این معادل برق مصرفی حدود 40 میلیون خانه در ایالات متحده یا نزدیک به یک سوم کل خانه های ایالات متحده است.

عمران یوسف، مدیر اکوسیستم‌های سخت‌افزاری در گروه زیرساخت آرم، می‌گوید: «هوش مصنوعی این پتانسیل را دارد که از تمام نوآوری‌های متحول کننده ایجاد شده در قرن گذشته فراتر رود». "اما نیازهای قدرت محاسبات هوش مصنوعی قابل توجه است، و با عجله شرکت ها برای ایجاد قابلیت های هوش مصنوعی، آنها در معرض خطر پیشی گرفتن از اهداف پایداری خود هستند. مدل های هوش مصنوعی آینده بزرگتر و هوشمندتر خواهند شد و نیاز به محاسبات بیشتر را افزایش می دهند، که این امر افزایش می یابد. تقاضا برای قدرت به عنوان بخشی از یک چرخه با فضیلت به زبان ساده، بدون برق، بدون هوش مصنوعی چگونه می‌توانیم با یافتن راه‌هایی برای کاهش انرژی مورد نیاز برای مراکز داده، تعادل بین نیاز به برق را با نیاز به تقویت انقلاب AI انجام دهیم سیستم های محاسباتی هوش مصنوعی."

 

دیگران موافقند. نیل هند، مدیر بازاریابی زیمنس EDA می گوید: «این به کارآمدی بیشتر در طراحی مربوط می شود. "شما می توانید به هر الگوریتمی نگاه کنید. دستورات کارآمدی وجود دارد. ناکارآمدترین رویکرد از منظر قدرت این است که کد خام را روی یک پردازنده همه منظوره اجرا کنید و اجازه دهید از بین برود - و چند مارشمالو را بالای CPU برشته کنید زیرا کار می کند. تا خیلی گرم شوم.»

یک رک سرور مبتنی بر پردازنده‌های گرافیکی NVIDIA Grace Blackwell به ۱۲۰ کیلووات نیاز دارد. اما به گفته ریچ گلدمن، مدیر Ansys، آنها همچنین 1،{2}} برابر بیشتر از نسل‌های قبلی توانایی دارند، که معادل 500 برابر محاسبات بیشتر در واحد قدرت است. "اگر مرکز داده ای از CPU ها بسازید، و می خواهید محاسبات زیادی انجام دهید، می توانید CPU ها را با جدیدترین GPU ها جایگزین کنید و قدرت را برای همان قابلیت های محاسباتی کاهش دهید. زیرا با هوش مصنوعی ما در حال انجام محاسبات بیشتری هستیم، اما این کمک خواهد کرد."

 

Hand سخت افزار تخصصی ساخته شده از نوع Grace Blackwell برای هوش مصنوعی را گام بعدی در توسعه می داند، اما او اضافه می کند که کارهای بیشتری می توان انجام داد زیرا اینها هنوز هم تراشه های همه منظوره هستند. او گفت که امکان ساخت تراشه‌های هوش مصنوعی کارآمدتر وجود دارد که به منظور طبقه‌بندی و کار با یک طبقه‌بندی گسترده باشد.

 

Hand خاطرنشان کرد: «این همان کاری است که NVIDIA انجام می‌دهد، این همان کاری است که گوگل و بسیاری از ارائه‌دهندگان ابر انجام می‌دهند.» سطوحی از کارایی وجود دارد که می‌توانیم انجام دهیم تا بتوانیم آن تراشه‌ها را کارآمدتر تولید کنیم، و همه چیز را در مورد پایداری که با آن همراه است، فعال کنیم. سپس، می‌توانید با فناوری‌های جدیدی که یک مدل کاملاً آموزش‌دیده هوش مصنوعی را انتخاب می‌کنند، یک قدم جلوتر بروید. و آن را به سخت‌افزار تبدیل می‌کند که می‌تواند بیشترین کارایی را داشته باشد، و کسری از قدرت شما را در آن نقطه استفاده می‌کند، بنابراین باید با این چالش روبرو شوید که هوش مصنوعی در حال افزایش است و چقدر می‌توانید آن را قفل کنید هر شبکه عصبی که می‌خواهید روی تراشه داشته باشید، و این پیوستار وجود خواهد داشت."

 

استیو رادی، مدیر ارشد بازاریابی Quadric، با این موضوع موافقت کرد. نیروهای محرک انفجار مدل‌های AI/ML از نظر وسعت بسیار زیاد هستند. موج هوش مصنوعی مولد روش کار افراد و شرکت‌ها را تغییر می‌دهد؛ احتمالاً میلیون‌ها شغل را در سراسر جهان تحت تأثیر قرار می‌دهد. اکوسیستم نیمه‌رسانا/EDA/IP نمی‌تواند به‌طور منطقی منحنی را خم کند. پیشرفت در تکامل مدل‌های عظیم هوش مصنوعی که سالانه با صدها میلیارد دلار سرمایه‌گذاری از سوی غول‌های فناوری انجام می‌شود، اما صنایع نیمه‌رسانا و IP می‌توانند به کاهش چشمگیر ردپای مصرف انرژی در اجرای آن مدل‌های GenAI در روز کمک کنند. -استفاده از استنتاج روزانه."

 

بزرگترین چالش پایداری برای استنتاج GenAI، تبدیل حالت‌ها به فرمت‌های کوانتیزه عدد صحیح با مصرف کمتر است. تیم‌های علم داده‌ای که مدل‌های GenAI را ایجاد می‌کنند، ظاهراً از این واقعیت غافل هستند که مدل‌های مرجعی که در قالب ممیز شناور منتشر می‌کنند، در مقایسه با همان مدل تبدیل شده به فرمت‌های عدد صحیح، ۱۰ برابر انرژی در هر استنتاج مصرف می‌کنند (مقایسه یک ضرب-انباشت ممیز شناور ۳۲b در مقابل ۸. رادی گفت: x 8 یا 4 x 8 عدد صحیح MAC. چه استنباط در مرکز داده یا روی دستگاه اتفاق بیفتد، صرفه جویی در انرژی - و مزایای ناشی از آن برای پایداری - از تبدیل به فرمت های اعداد صحیح کم توان بسیار قابل توجه است. این شکاف امروزه وجود دارد زیرا دانشمندان داده که مدل های جدید GenAI را ایجاد می کنند، ریاضیدان هستند، نه تعبیه شده اند. مهندسان."

 

پیشرفت تکنولوژی

Hand گفت: وقتی تیم طراحی تصمیم بگیرد که زمان آن فرا رسیده است که به سمت سخت افزار برود، حتی اگر الگوریتم های هوش مصنوعی به سرعت در حال پیشرفت هستند، مقدار مشخصی از ثبات وجود خواهد داشت. "این کمی شبیه زمانی است که ما به تکامل TPU ها، NPU ها، XPU ها رفتیم. به طور کلی، آنها برای مدتی چندان قابل دوام نبودند زیرا بلوک های سازنده اصلی به طور منظم در حال تغییر بودند. اما در چند سال گذشته، این عملکردهای اصلی وجود داشت. تثبیت شده‌اند تا اکنون بتوانید سخت‌افزارهای کارآمدتری بسازید، با شروع به تثبیت همه چیز، همیشه الگوریتم‌های بسیار قوی‌تری وجود خواهند داشت که به سخت‌افزار جدید نیاز دارند. احتمالاً همیشه بیشتر از آنچه ما می گوییم استفاده می کنند، زیرا مراکز داده مصرف کننده بزرگی انرژی هستند، اما این کل سؤال از منظر بهره وری به ما اجازه می دهد تا کارهایی را انجام دهیم که در غیر این صورت قادر به انجام آن نبودیم؟ اما بسیاری از موارد مربوط به این است که آیا این یک تراشه پیچیده هوش مصنوعی است.

 

نکته دیگر نحوه تولید انرژی کافی برای مرکز داده است. چگونه این مراکز داده را در مکان هایی قرار می دهید که برق کافی وجود ندارد؟ گلدمن گفت: "شما بیشتر مراکز داده را در مکان هایی خواهید دید که مازاد نیرو دارند و کشورهایی که قدرت مازاد دارند به هاب مراکز داده تبدیل خواهند شد." "آنها مرکز داده را در آنجا قرار می دهند، سپس دانشی را که شما از آن نیرو به دست می آورید، خروجی می گیرند."

 

که با منابع جدید و بدیع قدرت همراه خواهد بود. ما صحبت هایی در مورد نیروگاه های هسته ای کوچک برای تامین انرژی مراکز داده فردی شنیده ایم، و کاربردهایی مانند قرار دادن آنها در بالای چاه های نفت تا متانی که اکنون وارد هوا می شود و هوا را آلوده می کند، ما می توانیم آن را بسوزانیم و برق تولید کنیم. گلدمن گفت که آنها مراکز داده را اداره می کنند. ما باید چنین چیزی را به دست آوریم تا بتوانیم این مراکز داده را تقویت کنیم."

 

بخشی از بحث پایداری هوش مصنوعی کارایی مرکز داده است، جایی که یک تضاد مداوم بین قدرت مورد نیاز برای انتقال داده ها و میزان حرکت آن داده ها وجود دارد. ما می بینیم که مردم پردازنده های بسیار بزرگی را از چیپلت ها می سازند، و بخشی از آن به این دلیل است که در حالی که می دانند می توانند یک سیستم معادل از دو تراشه که از طریق یک گذرگاه متصل هستند بسازند، اما انتقال داده ها بین آنها هزینه زیادی دارد. استیون وو، همکار و مخترع برجسته رامبوس توضیح داد. "هر چه چیزها را بیشتر کنار هم قرار دهید، داده ها مسافت کمتری را باید طی کنند، انرژی کمتری برای جابجایی داده ها صرف می کنید. اما مشکل این است که چگالی توان بالا می رود. شما باید قدرت بیشتری را تحویل دهید، و باید خوب این است که چگونه می توانم این چیز را خنک کنم. باید آن را خنک کنیم.

 

در سطح مرکز داده، استفاده روزافزون از تکنیک های خنک کننده پیشرفته در سرورها وجود دارد. وو گفت: "مردم بیشتری در مورد خنک کننده مایع، از جمله صفحات سرد صحبت می کنند." "گوگل این کار را انجام داده است و NVIDIA در مورد آن برای گریس بلک ول صحبت کرده است. این فناوری است که برخی از ابررایانه‌های امروزی از آن استفاده می‌کنند و یک فناوری خارجی یا جدید نیست. فقط یک مسئله زمان است که ما آن را به‌عنوان آن ببینیم. احتمالاً سیستم‌هایی وجود خواهند داشت که در آینده قابل پیش‌بینی با هوا خنک می‌شوند، اما سیستم‌های بیشتری را خواهید دید که از نوعی مایع پمپ‌شده با سیستم خنک‌کننده دو فاز استفاده می‌کنند.

 

در انتهای این رویکرد خنک سازی غوطه وری است. او افزود: "این ممکن است به این زودی راه حل مناسبی برای خنک کننده سرور مرکز داده نباشد، اما ممکن است اگر ما باند فرودگاه مایعات لوله شده را تمام کنیم." هنگامی که بتوانید گرما را با یک مایع یا چیزی شبیه به آن مدیریت کنید، می توانید محدوده دمایی را که یک تراشه از آن عبور می کند محدود کنید، به این معنی که اگر چرخه حرارتی داشته باشد، ممکن است به دماهای شدید برخورد نکند. این خوب است. ، زیرا در این صورت شما انبساط و انقباض حرارتی را در این محدوده بزرگتر نخواهید داشت و برخی از خرابی های دیگر مربوط به قابلیت اطمینان کمی کاهش می یابد."

 

تجزیه و تحلیل داده های بزرگ نیز با شناسایی روندها در طراحی تراشه بر اساس استفاده از مرکز داده، در پایداری نقش دارد. آدام کرون، معمار برجسته در سینوپسیس گفت: «یک قطار کامل از قدرت وجود دارد. "نگرانی‌ها در سطح دای هستند. سپس بردی را که روی آن است، قفسه‌ای که در آن قرار دارد، مزرعه‌ای که در آن است، و سپس به خطوط انتقال باز می‌گردد. و آنچه مدیران مرکز داده دوست دارند ببینند، یک قایق را زیاد تکان ندهید، زیرا اگر چیزهای زیادی در اینجا می خواهید، ممکن است مجبور شوید آن طرف پایین بیایید یا برعکس.

 

در حالت ایده آل، قدرت در همه جا کاهش می یابد. کرون گفت: «مراکز داده بین 1 تا 2 درصد از برق جهان را مصرف می‌کنند، و آنها در حال استفاده از تمام آن هستند.

 

پیوندهای بازده، قابلیت ساخت

زیمنس اشاره کرد که ارتباط جالبی بین تلاش برای ساخت نیمه هادی های پایدار و بازده و قابلیت ساخت وجود دارد. "این تراشه‌ها در حال بزرگ‌تر شدن هستند. بنابراین، عملکرد مشکل‌تر می‌شود. هر چه بیشتر بتوانیم با بازدهی کار کنیم، می‌توانیم برای پایداری بهتر عمل کنیم، زیرا یک قالب مرده اتلاف منابع است. یک قالب خوب همیشه چیز بهتری است. ما در اکوسیستم نیمه هادی کارهای زیادی انجام می دهیم. هزینه پایداری هوش مصنوعی و فرصت‌های پایداری هوش مصنوعی و نحوه کارکرد آن‌ها به طور کلی مثبت است، اما من نمی‌دانم که می‌توانی آن را بسنجیم می گوید که آموزش این مدل ها چقدر هزینه دارد. و فناوری‌های هوش مصنوعی در اینجا قابل استفاده هستند. این فقط EDA است که کار EDA خود را انجام می دهد."

 

تجزیه و تحلیل حرارتی و پیری نیز در پایداری مرکز داده هوش مصنوعی نقش دارد. البته این فقط مختص هوش مصنوعی نیست. هند گفت: "این برای همه تراشه ها کاربرد دارد." حالا، آیا می توانم یک پشته سه بعدی را کنار هم بگذارم و قابل اعتماد باشد؟ آیا می توانم این چیزها را در سطح قدرت کافی اجرا کنم که مرگ آنها را تسریع نکنم؟ این قابلیت‌ها به ما امکان می‌دهد حتی فراتر برویم. همچنین، همانطور که ما شروع به گسترش تعریف دوقلو دیجیتال می کنیم و شروع به گسترش آنچه در آن گنجانده شده است، می توانید تأثیرات سطح سیستم را ببینید. و اگرچه مختص هوش مصنوعی و پایداری نیست، اما اینجاست که شاهد جهش های بزرگ در کارایی خواهیم بود زیرا در حال حاضر چقدر بیش از حد مهندسی شده است؟ چقدر زباله داخل آن زیاد است؟ زمانی که بتوانیم طراحی یکدست تری در سطح محصول و سطح مشکل داشته باشیم، فوایدی نیز وجود دارد. برای بازگرداندن آن به طور خاص به هوش مصنوعی، برای رسیدن به دوقلوهای دیجیتال جامع چند دامنه ای واقعی، هوش مصنوعی مورد نیاز است زیرا هوش مصنوعی تجزیه و تحلیل بین دامنه را برای شما و استخراج مدل جایگزین و انطباق خودکار وفاداری انجام می دهد. همه آنها وجود خواهد داشت. هر چه بیشتر به هوش مصنوعی نیاز داشته باشیم، از هوش مصنوعی بیشتری استفاده می کنیم."

 

نتیجه

پایداری موضوع جدیدی نیست، اما همیشه موضوعی برای برخی بحث‌های آینده بوده است. دیگر اینطور نیست.

Arm's Yusuf گفت: «فروشندگان سخت‌افزار و نرم‌افزار سال‌هاست که درک کرده‌اند که مقیاس‌بندی و پایداری محاسباتی می‌تواند در مسیر تضاد با واقعیت قرار گیرد، اما اگر صنعت از قابلیت‌های اکوسیستم خود استفاده کند، لازم نیست چنین باشند. برای مثال، Arm Total Design را در نظر بگیرید، که اکوسیستمی از شرکت‌های پیشرو در سراسر صنعت نیمه‌رسانا است که برای فعال کردن راه‌حل‌های سیلیکونی سفارشی و کارآمد برای موارد استفاده AI/ML اختصاص یافته است. به این ترتیب، شرکای آن دسترسی ترجیحی به زیرسیستم‌های محاسباتی Arm Neoverse را فراهم می‌کند. (CSS)، ابزارهای IP و EDA از پیش یکپارچه، خدمات طراحی، پشتیبانی ریخته‌گری و پشتیبانی نرم‌افزار تجاری، همچنین نشان‌دهنده طرز فکر جدیدی است که همکاری، انعطاف‌پذیری و نوآوری را تقویت می‌کند، در حالی که درک می‌کند که عصر هوش مصنوعی نیاز به همزیستی دارد. با اهداف پایداری جهانی."

 

چیزی که تغییر کرده این است که پایداری از "دارا بودن خوب" به "باید داشتن" تغییر کرده است. از دیدگاه خود به عنوان یک پیشرو در صنعت، اینتل هفت نکته را برای استفاده از هوش مصنوعی بدون هزینه زیست محیطی بالا ایجاد کرده است. علاوه بر این، اینتل معتقد است که عمدی بودن با نحوه پیاده سازی هوش مصنوعی برای طراحی، کلید دستیابی به اهداف پایداری است. با عمد، کسانی که ابتکارات هوش مصنوعی را اجرا می‌کنند می‌توانند از مزایای بارهای کاری بهینه‌شده بهره ببرند (برای اطلاعات بیشتر اینجا را ببینید)، و یک رویکرد فعال برای طراحی پروژه و مدیریت فناوری اطلاعات برای به حداکثر رساندن تأثیر ابتکارات هوش مصنوعی و به حداقل رساندن ردپای کربن حیاتی است (برای اطلاعات بیشتر اینجا را ببینید. موارد استفاده).

 

اساساً، کاهش تأثیر هوش مصنوعی بر پایداری به خود فناوری مربوط می شود. Quadric's Roddy گفت که اکوسیستم نیمه هادی می تواند با "افزایش آگاهی عمومی در مورد لزوم استفاده از فرمت های داده با دقت پایین تر و همچنین ساخت ابزارهای خودکار بیشتر برای پر کردن شکاف بین ریاضیدان و مهندس تعبیه شده کمک کند."