به گزارش ثریا - این سیستم جدید بهطور ویژه برای پردازنده گرافیکی بلکول (Blackwell) طراحی شده و با استفاده از روشی نوآورانه به نام هلیکس (Helix)، بازنویسی و درک متنهای خیلی طولانی را متحول میکند و استاندارد جدیدی برای تعامل سریع و همزمان با کاربران متعدد ایجاد میکند. بلکول جدیدترین پردازنده گرافیکی انویدیا با قدرت و سرعت بالا برای اجرای مدلهای بزرگ هوش مصنوعی است.
قدرتی نو برای پردازش متنهای عظیم
به نقل از آیای، انویدیا یک روش جدید و قدرتمند به نام موازیسازی هلیکس (Helix Parallelism) ارائه کرده است که میتواند بهطور چشمگیری عملکرد مدلهای هوش مصنوعی را هنگام پردازش متنهای بسیار طولانی بهبود بخشد.
این روش به مدلهای هوش مصنوعی این امکان را میدهد که میلیونها کلمه را بهطور همزمان پردازش کنند. برای مثال زمانی که یک چتبات یا دستیار هوش مصنوعی باید کل یک دایرةالمعارف یا مکالمه چندماهه را بررسی کند و درعینحال پاسخهایی بسیار سریع بدهد.
هلیکس بهطور ویژه برای هماهنگی با پردازندههای گرافیکی جدید انویدیا به نام بلکول طراحی شده که پهنای باند حافظه بسیار بالا و قدرت محاسباتی فوقالعادهای دارند.
مشکل اصلی: پردازش حافظه زیاد و سنگین
وقتی مدلهای هوش مصنوعی بزرگ میخواهند پاسخ جدید تولید کنند، باید تمام متنهای قبلی را که به آنها داده شده بررسی کنند این مجموعهی قبلی «کانتکست» یا متن زمینه (context) نامیده میشود.
برای هر کلمه جدید، مدل باید بارها و بارها حافظهای به نام KV cache را بخواند، که حاوی همه توکنها یا کلمات قبلی است. این خواندن مکرر باعث فشار شدید به حافظه واحد پردازش گرافیکی (GPU) میشود. علاوه بر این، مدل باید در هر مرحله مقادیر عظیمی از دادهها را برای بخش شبکه تغذیه پیش رو (FFN) دوباره از حافظه بارگیری کند، که باعث کندی شدید، مخصوصا در برنامههای زنده مانند چتباتها میشود.
تاکنون، برنامهنویسان از روشی به نام موازیسازی تِنسوری (Tensor Parallelism) استفاده میکردند تا این فشار را بین چند واحد پردازش گرافیکی پخش کنند، اما بعد از یک حد خاص، واحدهای پردازش گرافیکی مجبور میشوند نسخههای تکراری از حافظه KV را نگه دارند، که باعث میشود فشار حافظه بیشتر هم بشود.
هلیکس چطور این مشکل را حل میکند؟
هلیکس با جدا کردن دو بخش اصلی مدل یعنی توجه یا attention و شبکه تغذیه پیش رو آنها را بهطور مستقل اجرا میکند. در مرحله توجه (attention)، هلیکس با استفاده از روشی جدید به نام KV Parallelism (KVP) حافظه KV را بین واحدهای پردازش گرافیکی تقسیم میکند، بدون اینکه تکراری ایجاد شود.
به زبان ساده بهجای اینکه هر واحد پردازش گرافیکی مجبور باشد کل حافظه قبلی را بخواند، فقط بخشی از آن را پردازش میکند. سپس، همین واحدها به حالت قبلی (TP) برمیگردند تا بخش شبکه تغذیه پیش رو را اجرا کنند این یعنی استفادهی هوشمندانه از منابع، بدون اینکه واحدهای پردازش بیکار بمانند.
هلیکس از اتصالهای پرسرعت انویدیا مثل NVLink و NVL۷2 استفاده میکند تا دادهها را بین واحدهای پردازش گرافیکی بهسرعت جابهجا کند. همچنین تکنیکی به نام HOP-B را معرفی میکند که محاسبات و انتقال اطلاعات را همزمان انجام میدهد، تا تاخیرها باز هم کمتر شوند.
جهشی بزرگ در عملکرد
در شبیهسازیهایی که با یک مدل بسیار بزرگ به نام DeepSeek-R1 671B انجام شده که مدلی با ظرفیت پردازش یک میلیون توکن یا کلمه است، مشخص شد که هلیکس میتواند تا ۳۲ برابر بیشتر از روشهای قبلی به کاربران همزمان پاسخ دهد و این بدون افزایش تاخیر انجام میشود.
در بارهای کاری سبک یعنی وقتی کاربران زیادی بهطور همزمان فعال نیستند، هلیکس میتواند زمان پاسخدهی را تا ۱.۵ برابر کاهش دهد. حتی وقتی اندازه متنها به میلیونها کلمه برسد، هلیکس همچنان استفاده از حافظه را کنترلشده نگه میدارد و سرعت پردازش را ثابت نگه میدارد. این سیستم حافظه KV را بهصورت چرخشی بهروزرسانی میکند تا از فشار ناگهانی روی حافظه یا شلوغی بیش از حد واحدهای پردازش جلوگیری شود.
نتیجه نهایی
هلیکس به مدلهای هوش مصنوعی امکان میدهد که در عین بزرگ شدن، سریع هم بمانند بدون اینکه عملکرد در لحظه(real-time) قربانی شود. این یعنی دستیارهای مجازی و رباتهای حقوقی هوش مصنوعی اکنون میتوانند با وجود بارهای عظیم، همچنان پاسخگو، سریع و حاضر باقی بمانند.
منبع : انویدیا
رتبه نخست دانشگاه صنعتی امیرکبیر در شاخص نوآوری
توزیع کارت کنکور ارشد از ۲۲ تیر آغاز میشود
اطلاعیه دانشگاه آزاد درباره امتحانات دانشجویان تحصیلات تکمیلی
نسخه جدید چت جی تی پی راه اندازی میشود
رباتها حس لامسه پیدا میکنند
یک خبر ترسناک: ربات انسان نما به همکارانش حمله کرد
زبالههای فضایی در ساحل استرالیا نمایان شدند
تولید سوخت جت پایدار از دی اکسیدکربن صنعتی ممکن شد
کاوشگر ژاپنی توانست از یک سیارک تصویر ثبت کند
هوش مصنوعی دیپ سیک به دنبال تراشه سازی رفت
هم اکنون انبوهی از سوخت رسان های آمریکایی درحال پرواز در نزدیکی تنگه هرمز هستند
گلباران پیکر مطهر رهبر شهید انقلاب توسط دانشجویان
اقتدار علمی ایران؛ محور همیشگی رهنمودهای رهبر شهید
رهبر شهید ایران در آغوش ملت ایران
کلاسهای تابستانی دانشگاه آزاد مجازی شد
ضوابط برگزاری امتحانات مجازی و جزئیات ترم تابستان شریف اعلام شد
گروههای امدادی دانشگاه آزاد از نخستین لحظات تشییع رهبر شهید به خدمترسانی زائران پرداختند
محتوای کاربران گوگل برای آموزش هوش مصنوعی به کار میرود
تصویری از مراسم بدرقه رهبر شهید انقلاب
حضرت آیت الله جوادی آملی در جمکران بر پیکر رهبر شهید انقلاب نماز می خواند
هوش مصنوعی وارد عصر امنیت ملی میشود
بسیج همهجانبه دانشگاه آزاد برای خدمت زائران امام شهید
نگاهی به حضور کسب و کارهای مجازی در بدرقه رهبر شهید
هدایتهای روشنگرانه رهبر شهید در حوزه علم و فناوری
شماره جدید مجله دانشمند منتشر شد
چه کسی بر پیکر رهبر کبیر انقلاب نماز اقامه کرد؟
تشییع رهبر شهید انقلاب، صحنهای تاریخی برای نمایش وفاداری ملت ما است
جامعه رستگار، راهبرد رهبر شهید در امت سازی
«آیفون» به تنهایی کسی را مدرن نمیکند/اخلاق ویژه جامعه شبهمدرن شهری!
پویش ختم جمعی قرآن به یاد رهبر شهید
روایتی از نماد و معنا در انیمیشن های متاخر کودکان
کاظمی: ۵ هزار مدرسه برای اسکان زائران آماده شد
دعوت وزیر آموزش و پرورش از دانشآموزان و فرهنگیان برای حضور در آیین وداع و تشییع
میزبانی دانشگاه امیر کبیر از ۳۰۰۰ نفر از زائرین مراسم تشییع رهبر شهید
ماموریت نجات تلسکوپ ناسا آغاز شد
تعویق دوباره امتحانات نهایی دانش آموزان ممکن نیست
دعوت جهاددانشگاهی از دانشگاهیان برای حضور در مراسم تشییع رهبر شهید
تأکید بر صیانت از اقتدار ملی و تبعیت از رهبری در مذاکرات آتی
آمادگی دانشگاه علامه برای اسکان ۶ هزار زائر مراسم تشییع رهبر شهید
قابلیت جدید چت در تلگرام دردسرساز شد
توجه رهبر شهید به نخبگان؛ تحول سیاستگذاری علمی با محوریت نوآوری و نسل جوان
نقشۀ مسدودی خیابانهای منتهی به مصلی تهران
حضور سردار سید مجید موسوی در مراسم وداع با رهبر شهید انقلاب
رزمندگان هوافضای سپاه در آماده باش کامل عملیاتی
کشف یک سیاره قابل سکونت در ۲۵ سال نوری از زمین
چگونه ناتوانی دولت قاجار و ظلم دشمن، «قحطی بزرگ»را در جنگ جهانی رقم زد؟
دعوت معاون علمی رئیس جمهور از نخبگان برای حضور در آیین تشییع رهبر شهید
دعوت ستاد کانونهای مساجد از مردم برای حضور در تشییع رهبر شهید
تصویری از یادبود کودکان مظلوم و شهید میناب
بازدید سردار وحیدی از بیمارستان موقت مصلای تهران
آیا تو را تشییع میکنیم، یا بخشی از هویت خویش را؟
رقیب چینی جدید اوپن ای آی و آنتروپیک از راه رسید
جمعیت حاضر در مقابل ورودی های منتهی به مصلی تهران
رهبر شهید انقلاب اسلامی، حکمرانان را خادمان ملت میدانستند
رهبر شهید: متن تاریخ، منظومه معرفت، میراث تمدن
واکنش زینب سلیمانی به آخرین وداع با رهبر شهید در حسینیه امام
سوء استفاده آمریکا و اسرائیل از هوش مصنوعی در جنگ
هماکنون انتظار دلدادگان رهبر شهید برای ورود به مصلی تهران
بسیج اپراتورها برای مدیریت ترافیک ارتباطی در مراسم تشییع رهبر شهید
گامی تازه در درمان نابینایی برداشته شد
مرحله کتبی آزمون پذیرش فلوشیپ پزشکی برگزار شد
دعوت بسیج اساتید برای شرکت در بدرقه باشکوه پیکر مطهر آقای شهید ایران
دانشگاهها برای وداع با رهبر شهید انقلاب آماده میشوند
اسرار آیفون ۱۸پرو در وب تاریک فاش شد
«حرف دلم را قورت دادم» روایتی صمیمی برای بیان احساسات و دغدغههای نوجوانان
قابلیت تازه واتس اپ برای چت کردن بدون افشای شماره موبایل
۴.۵ میلیون دانشآموز در مدارس غیردولتی تحصیل میکنند
فراخوان روایت وداع برای ثبت خاطرات مردمی از بدرقه رهبر شهید انقلاب
استفاده دانشجویان از هوش مصنوعی نظام ارزشیابی را با چالش مواجه کرده است
وزیر آموزش و پرورش: تشدید نظارت بر عملکرد مدارس غیردولتی الزامی است
۴۰ مدرسه قرچک برای اسکان زائران مراسم وداع رهبر شهید آماده میشود
مدرسه کانون هویتسازی و پرورش عزت و امید است
لایحه ایمنی آنلاین کودکان و نوجوانان در مجلس آمریکا تصویب شد
چگونه عاشورا به سرچشمه حقیقت تبدیل شد؟
کشف این ژن راز شکست بسیاری از بارداریها را آشکار میکند
اولین تصویر تابوت متعلق به رهبر شهید انقلاب و خانواده ایشان
کاروان هنرهای نمایشی «بدرقه خورشید» راهی ۶ استان میشود
لحظهبهلحظه وداع ملت با رهبر شهید انقلاب از امواج رادیو قرآن شنیدنی میشود
گریم متفاوت بازیگر بچه مهندس پربازدید شد+عکس
علت فوت فرزاد جمشیدی چه بود؟
بسیج همهجانبه دانشگاه آزاد برای خدمت زائران امام شهید
میزبانی دانشگاه امیر کبیر از ۳۰۰۰ نفر از زائرین مراسم تشییع رهبر شهید
دعوت جهاددانشگاهی از دانشگاهیان برای حضور در مراسم تشییع رهبر شهید
تصویری از مراسم بدرقه رهبر شهید انقلاب
توجه رهبر شهید به نخبگان؛ تحول سیاستگذاری علمی با محوریت نوآوری و نسل جوان
جمعیت حاضر در مقابل ورودی های منتهی به مصلی تهران
هوش مصنوعی وارد عصر امنیت ملی میشود
هدایتهای روشنگرانه رهبر شهید در حوزه علم و فناوری
نقشۀ مسدودی خیابانهای منتهی به مصلی تهران
دعوت معاون علمی رئیس جمهور از نخبگان برای حضور در آیین تشییع رهبر شهید
چه کسی بر پیکر رهبر کبیر انقلاب نماز اقامه کرد؟
شماره جدید مجله دانشمند منتشر شد
حضور سردار سید مجید موسوی در مراسم وداع با رهبر شهید انقلاب
حضرت آیت الله جوادی آملی در جمکران بر پیکر رهبر شهید انقلاب نماز می خواند
اقتدار علمی ایران؛ محور همیشگی رهنمودهای رهبر شهید
قابلیت جدید چت در تلگرام دردسرساز شد
تأکید بر صیانت از اقتدار ملی و تبعیت از رهبری در مذاکرات آتی
آمادگی دانشگاه علامه برای اسکان ۶ هزار زائر مراسم تشییع رهبر شهید
جامعه رستگار، راهبرد رهبر شهید در امت سازی
بازدید سردار وحیدی از بیمارستان موقت مصلای تهران
تشییع رهبر شهید انقلاب، صحنهای تاریخی برای نمایش وفاداری ملت ما است
کاظمی: ۵ هزار مدرسه برای اسکان زائران آماده شد
نگاهی به حضور کسب و کارهای مجازی در بدرقه رهبر شهید
سوء استفاده آمریکا و اسرائیل از هوش مصنوعی در جنگ
پویش ختم جمعی قرآن به یاد رهبر شهید
ماموریت نجات تلسکوپ ناسا آغاز شد
هم اکنون انبوهی از سوخت رسان های آمریکایی درحال پرواز در نزدیکی تنگه هرمز هستند
تعویق دوباره امتحانات نهایی دانش آموزان ممکن نیست
هماکنون انتظار دلدادگان رهبر شهید برای ورود به مصلی تهران
رزمندگان هوافضای سپاه در آماده باش کامل عملیاتی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.