سخت‌افزار

فناوری اطلاعات

May 30, 2023
9:33 سه شنبه، 9ام خردادماه 1402
کد خبر: 145816

انویدیا با GPUهای خود هزینه آموزش مدل‌های زبانی بزرگ را 25 برابر کاهش می‌دهد

انویدیا می‌گوید مشتریان می‌توانند با استفاده از پردازشگرهای گرافیکی این شرکت هزینه آموزش مدل‌های زبانی بزرگ را بسیار کاهش دهند.
 
 
 
انویدیا در رویداد کامپیوتکس 2023 با دست پر حاضر شد. این شرکت در مراسم خود مقایسه قابل‌توجهی را میان هزینه استفاده از سرورهای مبتنی بر CPU و سرورهای مبتنی بر GPU برای آموزش مدل‌های زبانی بزرگ هوش مصنوعی انجام داد و مدعی شد که مشتریان با استفاده از پردازشگرهای گرافیکی این شرکت می‌توانند با هزینه کمتر و در زمان کوتاه‌تر به اهداف خود برسند.
 
«جنسن هوانگ»، مدیرعامل انویدیا، در مراسم کامپیوتکس 2023 میان هزینه استفاده از روش‌های مختلف آموزش مدل‌های هوش مصنوعی مقایسه‌ای انجام داد. او گفت شرکت‌ها درحال‌حاضر برای آموزش یک مدل زبانی بزرگ (LLM) به سروری 10 میلیون دلاری با 960 پردازنده مرکزی یا CPU نیاز دارند. به‌علاوه، برق مصرفی برای انجام این کار حدود 11 گیگاوات‌ساعت خواهد بود.
 
اما اگر یک شرکت سروری را با پردازشگرهای گرافیکی انویدیا بسازد، برای آموزش 1 مدل زبانی بزرگ به تنها 0.13 گیگاوات‌ساعت برق و صرف 400 هزار دلار هزینه نیاز دارد.
 
پردازشگرهای گرافیکی انویدیا مصرف برق را هم کاهش می‌دهند
انویدیا درواقع می‌گوید که شرکت‌ها با استفاده از پردازشگرهای گرافیکی این شرکت می‌توانند با صرف 4 درصد از هزینه و 1.2 درصد از برق مصرفی در سرورهای مبتنی بر CPU، یک مدل زبانی بزرگ را برای سیستم‌های هوش مصنوعی خود توسعه دهند. این سطح از کاهش هزینه‌ها مطمئناً کمک شایانی به شرکت‌ها خواهد کرد. انویدیا در همین رویداد از ابرکامپیوتر DGX GH200 نیز برای نسل بعدی مدل‌های هوش مصنوعی رونمایی کرد.
 
 
از طرف دیگر، اگر همین شرکت‌ها سروری 10 میلیون دلاری را با GPUهای انویدیا بسازند، می‌توانند با صرف تنها 3.2 گیگاوات‌ساعت، 44 مدل زبانی بزرگ را تعلیم دهند. در بحث تحلیل هزینه‌ها، به این مقایسه سناریوی «هزینه برابر» گفته می‌شود.
 
همچنین اگر توان برق مصرفی را به 11 گیگاوات‌ساعت برسانیم، با این GPUها می‌توان 150 برابر بیشتر مدل‌های زبانی را آموزش داد. البته با این کار هزینه‌ها به 34 میلیون دلار می‌رسد، اما در پایان کار 150 مدل زبانی بزرگ در دسترس خواهد بود.
  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.