به گزارش ثریا - این سیستم جدید بهطور ویژه برای پردازنده گرافیکی بلکول (Blackwell) طراحی شده و با استفاده از روشی نوآورانه به نام هلیکس (Helix)، بازنویسی و درک متنهای خیلی طولانی را متحول میکند و استاندارد جدیدی برای تعامل سریع و همزمان با کاربران متعدد ایجاد میکند. بلکول جدیدترین پردازنده گرافیکی انویدیا با قدرت و سرعت بالا برای اجرای مدلهای بزرگ هوش مصنوعی است.
قدرتی نو برای پردازش متنهای عظیم
به نقل از آیای، انویدیا یک روش جدید و قدرتمند به نام موازیسازی هلیکس (Helix Parallelism) ارائه کرده است که میتواند بهطور چشمگیری عملکرد مدلهای هوش مصنوعی را هنگام پردازش متنهای بسیار طولانی بهبود بخشد.
این روش به مدلهای هوش مصنوعی این امکان را میدهد که میلیونها کلمه را بهطور همزمان پردازش کنند. برای مثال زمانی که یک چتبات یا دستیار هوش مصنوعی باید کل یک دایرةالمعارف یا مکالمه چندماهه را بررسی کند و درعینحال پاسخهایی بسیار سریع بدهد.
هلیکس بهطور ویژه برای هماهنگی با پردازندههای گرافیکی جدید انویدیا به نام بلکول طراحی شده که پهنای باند حافظه بسیار بالا و قدرت محاسباتی فوقالعادهای دارند.
مشکل اصلی: پردازش حافظه زیاد و سنگین
وقتی مدلهای هوش مصنوعی بزرگ میخواهند پاسخ جدید تولید کنند، باید تمام متنهای قبلی را که به آنها داده شده بررسی کنند این مجموعهی قبلی «کانتکست» یا متن زمینه (context) نامیده میشود.
برای هر کلمه جدید، مدل باید بارها و بارها حافظهای به نام KV cache را بخواند، که حاوی همه توکنها یا کلمات قبلی است. این خواندن مکرر باعث فشار شدید به حافظه واحد پردازش گرافیکی (GPU) میشود. علاوه بر این، مدل باید در هر مرحله مقادیر عظیمی از دادهها را برای بخش شبکه تغذیه پیش رو (FFN) دوباره از حافظه بارگیری کند، که باعث کندی شدید، مخصوصا در برنامههای زنده مانند چتباتها میشود.
تاکنون، برنامهنویسان از روشی به نام موازیسازی تِنسوری (Tensor Parallelism) استفاده میکردند تا این فشار را بین چند واحد پردازش گرافیکی پخش کنند، اما بعد از یک حد خاص، واحدهای پردازش گرافیکی مجبور میشوند نسخههای تکراری از حافظه KV را نگه دارند، که باعث میشود فشار حافظه بیشتر هم بشود.
هلیکس چطور این مشکل را حل میکند؟
هلیکس با جدا کردن دو بخش اصلی مدل یعنی توجه یا attention و شبکه تغذیه پیش رو آنها را بهطور مستقل اجرا میکند. در مرحله توجه (attention)، هلیکس با استفاده از روشی جدید به نام KV Parallelism (KVP) حافظه KV را بین واحدهای پردازش گرافیکی تقسیم میکند، بدون اینکه تکراری ایجاد شود.
به زبان ساده بهجای اینکه هر واحد پردازش گرافیکی مجبور باشد کل حافظه قبلی را بخواند، فقط بخشی از آن را پردازش میکند. سپس، همین واحدها به حالت قبلی (TP) برمیگردند تا بخش شبکه تغذیه پیش رو را اجرا کنند این یعنی استفادهی هوشمندانه از منابع، بدون اینکه واحدهای پردازش بیکار بمانند.
هلیکس از اتصالهای پرسرعت انویدیا مثل NVLink و NVL۷2 استفاده میکند تا دادهها را بین واحدهای پردازش گرافیکی بهسرعت جابهجا کند. همچنین تکنیکی به نام HOP-B را معرفی میکند که محاسبات و انتقال اطلاعات را همزمان انجام میدهد، تا تاخیرها باز هم کمتر شوند.
جهشی بزرگ در عملکرد
در شبیهسازیهایی که با یک مدل بسیار بزرگ به نام DeepSeek-R1 671B انجام شده که مدلی با ظرفیت پردازش یک میلیون توکن یا کلمه است، مشخص شد که هلیکس میتواند تا ۳۲ برابر بیشتر از روشهای قبلی به کاربران همزمان پاسخ دهد و این بدون افزایش تاخیر انجام میشود.
در بارهای کاری سبک یعنی وقتی کاربران زیادی بهطور همزمان فعال نیستند، هلیکس میتواند زمان پاسخدهی را تا ۱.۵ برابر کاهش دهد. حتی وقتی اندازه متنها به میلیونها کلمه برسد، هلیکس همچنان استفاده از حافظه را کنترلشده نگه میدارد و سرعت پردازش را ثابت نگه میدارد. این سیستم حافظه KV را بهصورت چرخشی بهروزرسانی میکند تا از فشار ناگهانی روی حافظه یا شلوغی بیش از حد واحدهای پردازش جلوگیری شود.
نتیجه نهایی
هلیکس به مدلهای هوش مصنوعی امکان میدهد که در عین بزرگ شدن، سریع هم بمانند بدون اینکه عملکرد در لحظه(real-time) قربانی شود. این یعنی دستیارهای مجازی و رباتهای حقوقی هوش مصنوعی اکنون میتوانند با وجود بارهای عظیم، همچنان پاسخگو، سریع و حاضر باقی بمانند.
منبع : انویدیا
نماز شب اول قبر چگونه خوانده میشود؟ زمان اقامه نماز رهبر شهید
سیره امام سجاد(ع) در کادرسازی فکری و تجدید حیات معنوی جامعه
دستیابی به جامعه قرآنی هدف متعالی رهبر شهید
گسست معرفتی در اندیشه ایرانی از چالشها تا راهکارها
لبنانیها هفته بزرگداشت تشییع امام مستضعفان را برگزار می کنند
آرامگاه ابدی رهبر شهید انقلاب در رواق دارالذکر حرم امام رضا(ع)
تصویر/ما همه خونخواه توییم خامنهای...
پیکر رهبر شهید و خانواده ایشان در این رواق حرم مطهر رضوی به خاک سپرده میشود
برای بابای زهرای کوچک و آزمون سخت او در شهادت زن و فرزند
ریشه انتقام در فرهنگ ایرانی شیعی به کجا برمیگردد؟
روسیه به دنبال مختل کردن استارلینک در اوکراین
تأکید شورای عالی انقلاب فرهنگی: تعیین تاریخ امتحانات نهایی و کنکور بر عهده متولیان اجرایی
کاهش تنوع مدارس با هدف تحقق عدالت آموزشی در دستور کار آموزش و پرورش
شیوهنامه اجرایی طرح حامی ویژه تابستان ۱۴۰۵ ابلاغ شد
درخشش تیم ملی المپیاد فیزیک جمهوری اسلامی ایران در مسابقات جهانی
وداع با معلم یک ملت تجلی سرمایه اجتماعی یک ملت
جایگاه آموزش و پرورش در منظومه فکری رهبر شهید کجا بود؟
رتبه نخست دانشگاه صنعتی امیرکبیر در شاخص نوآوری
توزیع کارت کنکور ارشد از ۲۲ تیر آغاز میشود
اطلاعیه دانشگاه آزاد درباره امتحانات دانشجویان تحصیلات تکمیلی
نسخه جدید چت جی تی پی راه اندازی میشود
رباتها حس لامسه پیدا میکنند
یک خبر ترسناک: ربات انسان نما به همکارانش حمله کرد
زبالههای فضایی در ساحل استرالیا نمایان شدند
تولید سوخت جت پایدار از دی اکسیدکربن صنعتی ممکن شد
کاوشگر ژاپنی توانست از یک سیارک تصویر ثبت کند
هوش مصنوعی دیپ سیک به دنبال تراشه سازی رفت
هم اکنون انبوهی از سوخت رسان های آمریکایی درحال پرواز در نزدیکی تنگه هرمز هستند
گلباران پیکر مطهر رهبر شهید انقلاب توسط دانشجویان
اقتدار علمی ایران؛ محور همیشگی رهنمودهای رهبر شهید
رهبر شهید ایران در آغوش ملت ایران
کلاسهای تابستانی دانشگاه آزاد مجازی شد
ضوابط برگزاری امتحانات مجازی و جزئیات ترم تابستان شریف اعلام شد
گروههای امدادی دانشگاه آزاد از نخستین لحظات تشییع رهبر شهید به خدمترسانی زائران پرداختند
محتوای کاربران گوگل برای آموزش هوش مصنوعی به کار میرود
تصویری از مراسم بدرقه رهبر شهید انقلاب
حضرت آیت الله جوادی آملی در جمکران بر پیکر رهبر شهید انقلاب نماز می خواند
هوش مصنوعی وارد عصر امنیت ملی میشود
بسیج همهجانبه دانشگاه آزاد برای خدمت زائران امام شهید
نگاهی به حضور کسب و کارهای مجازی در بدرقه رهبر شهید
هدایتهای روشنگرانه رهبر شهید در حوزه علم و فناوری
شماره جدید مجله دانشمند منتشر شد
چه کسی بر پیکر رهبر کبیر انقلاب نماز اقامه کرد؟
تشییع رهبر شهید انقلاب، صحنهای تاریخی برای نمایش وفاداری ملت ما است
جامعه رستگار، راهبرد رهبر شهید در امت سازی
«آیفون» به تنهایی کسی را مدرن نمیکند/اخلاق ویژه جامعه شبهمدرن شهری!
پویش ختم جمعی قرآن به یاد رهبر شهید
روایتی از نماد و معنا در انیمیشن های متاخر کودکان
کاظمی: ۵ هزار مدرسه برای اسکان زائران آماده شد
دعوت وزیر آموزش و پرورش از دانشآموزان و فرهنگیان برای حضور در آیین وداع و تشییع
میزبانی دانشگاه امیر کبیر از ۳۰۰۰ نفر از زائرین مراسم تشییع رهبر شهید
ماموریت نجات تلسکوپ ناسا آغاز شد
تعویق دوباره امتحانات نهایی دانش آموزان ممکن نیست
دعوت جهاددانشگاهی از دانشگاهیان برای حضور در مراسم تشییع رهبر شهید
تأکید بر صیانت از اقتدار ملی و تبعیت از رهبری در مذاکرات آتی
آمادگی دانشگاه علامه برای اسکان ۶ هزار زائر مراسم تشییع رهبر شهید
قابلیت جدید چت در تلگرام دردسرساز شد
توجه رهبر شهید به نخبگان؛ تحول سیاستگذاری علمی با محوریت نوآوری و نسل جوان
نقشۀ مسدودی خیابانهای منتهی به مصلی تهران
حضور سردار سید مجید موسوی در مراسم وداع با رهبر شهید انقلاب
رزمندگان هوافضای سپاه در آماده باش کامل عملیاتی
کشف یک سیاره قابل سکونت در ۲۵ سال نوری از زمین
چگونه ناتوانی دولت قاجار و ظلم دشمن، «قحطی بزرگ»را در جنگ جهانی رقم زد؟
دعوت معاون علمی رئیس جمهور از نخبگان برای حضور در آیین تشییع رهبر شهید
دعوت ستاد کانونهای مساجد از مردم برای حضور در تشییع رهبر شهید
تصویری از یادبود کودکان مظلوم و شهید میناب
بازدید سردار وحیدی از بیمارستان موقت مصلای تهران
آیا تو را تشییع میکنیم، یا بخشی از هویت خویش را؟
رقیب چینی جدید اوپن ای آی و آنتروپیک از راه رسید
جمعیت حاضر در مقابل ورودی های منتهی به مصلی تهران
رهبر شهید انقلاب اسلامی، حکمرانان را خادمان ملت میدانستند
رهبر شهید: متن تاریخ، منظومه معرفت، میراث تمدن
واکنش زینب سلیمانی به آخرین وداع با رهبر شهید در حسینیه امام
سوء استفاده آمریکا و اسرائیل از هوش مصنوعی در جنگ
هماکنون انتظار دلدادگان رهبر شهید برای ورود به مصلی تهران
بسیج اپراتورها برای مدیریت ترافیک ارتباطی در مراسم تشییع رهبر شهید
گامی تازه در درمان نابینایی برداشته شد
مرحله کتبی آزمون پذیرش فلوشیپ پزشکی برگزار شد
دعوت بسیج اساتید برای شرکت در بدرقه باشکوه پیکر مطهر آقای شهید ایران
دانشگاهها برای وداع با رهبر شهید انقلاب آماده میشوند
اقتدار علمی ایران؛ محور همیشگی رهنمودهای رهبر شهید
هم اکنون انبوهی از سوخت رسان های آمریکایی درحال پرواز در نزدیکی تنگه هرمز هستند
رتبه نخست دانشگاه صنعتی امیرکبیر در شاخص نوآوری
تأکید شورای عالی انقلاب فرهنگی: تعیین تاریخ امتحانات نهایی و کنکور بر عهده متولیان اجرایی
گلباران پیکر مطهر رهبر شهید انقلاب توسط دانشجویان
توزیع کارت کنکور ارشد از ۲۲ تیر آغاز میشود
اطلاعیه دانشگاه آزاد درباره امتحانات دانشجویان تحصیلات تکمیلی
درخشش تیم ملی المپیاد فیزیک جمهوری اسلامی ایران در مسابقات جهانی
شیوهنامه اجرایی طرح حامی ویژه تابستان ۱۴۰۵ ابلاغ شد
پیکر رهبر شهید و خانواده ایشان در این رواق حرم مطهر رضوی به خاک سپرده میشود
تصویر/ما همه خونخواه توییم خامنهای...
روسیه به دنبال مختل کردن استارلینک در اوکراین
آرامگاه ابدی رهبر شهید انقلاب در رواق دارالذکر حرم امام رضا(ع)
رهبر شهید ایران در آغوش ملت ایران
برای بابای زهرای کوچک و آزمون سخت او در شهادت زن و فرزند
ریشه انتقام در فرهنگ ایرانی شیعی به کجا برمیگردد؟
نماز شب اول قبر چگونه خوانده میشود؟ زمان اقامه نماز رهبر شهید
لبنانیها هفته بزرگداشت تشییع امام مستضعفان را برگزار می کنند
وداع با معلم یک ملت تجلی سرمایه اجتماعی یک ملت
کاهش تنوع مدارس با هدف تحقق عدالت آموزشی در دستور کار آموزش و پرورش
سیره امام سجاد(ع) در کادرسازی فکری و تجدید حیات معنوی جامعه
نسخه جدید چت جی تی پی راه اندازی میشود
جایگاه آموزش و پرورش در منظومه فکری رهبر شهید کجا بود؟
زبالههای فضایی در ساحل استرالیا نمایان شدند
کاوشگر ژاپنی توانست از یک سیارک تصویر ثبت کند
یک خبر ترسناک: ربات انسان نما به همکارانش حمله کرد
هوش مصنوعی دیپ سیک به دنبال تراشه سازی رفت
تولید سوخت جت پایدار از دی اکسیدکربن صنعتی ممکن شد
رباتها حس لامسه پیدا میکنند
گسست معرفتی در اندیشه ایرانی از چالشها تا راهکارها
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.