به گزارش ثریا - این سیستم جدید به‌طور ویژه برای پردازنده گرافیکی بلک‌ول (Blackwell) طراحی شده و با استفاده از روشی نوآورانه به نام هلیکس (Helix)، بازنویسی و درک متن‌های خیلی طولانی را متحول می‌کند و استاندارد جدیدی برای تعامل سریع و همزمان با کاربران متعدد ایجاد می‌کند. بلک‌ول جدیدترین پردازنده گرافیکی انویدیا با قدرت و سرعت بالا برای اجرای مدل‌های بزرگ هوش مصنوعی است.
قدرتی نو برای پردازش متن‌های عظیم
به نقل از آی‌ای، انویدیا یک روش جدید و قدرتمند به نام موازی‌سازی هلیکس (Helix Parallelism) ارائه کرده است که می‌تواند به‌طور چشمگیری عملکرد مدل‌های هوش مصنوعی را هنگام پردازش متن‌های بسیار طولانی بهبود بخشد.
این روش به مدل‌های هوش مصنوعی این امکان را می‌دهد که میلیون‌ها کلمه را به‌طور همزمان پردازش کنند. برای مثال زمانی که یک چت‌بات یا دستیار هوش مصنوعی باید کل یک دایرةالمعارف یا مکالمه چندماهه را بررسی کند و درعین‌حال پاسخ‌هایی بسیار سریع بدهد.
هلیکس به‌طور ویژه برای هماهنگی با پردازنده‌های گرافیکی جدید انویدیا به نام بلک‌ول طراحی شده که پهنای باند حافظه بسیار بالا و قدرت محاسباتی فوق‌العاده‌ای دارند.
مشکل اصلی: پردازش حافظه زیاد و سنگین
وقتی مدل‌های هوش مصنوعی بزرگ می‌خواهند پاسخ جدید تولید کنند، باید تمام متن‌های قبلی را که به آن‌ها داده شده بررسی کنند این مجموعه‌ی قبلی «کانتکست» یا متن زمینه (context) نامیده می‌شود.
برای هر کلمه جدید، مدل باید بارها و بارها حافظه‌ای به نام KV cache را بخواند، که حاوی همه توکن‌ها یا کلمات قبلی است. این خواندن مکرر باعث فشار شدید به حافظه واحد پردازش گرافیکی (GPU) می‌شود. علاوه بر این، مدل باید در هر مرحله مقادیر عظیمی از داده‌ها را برای بخش شبکه تغذیه پیش رو (FFN) دوباره از حافظه بارگیری کند، که باعث کندی شدید، مخصوصا در برنامه‌های زنده مانند چت‌بات‌ها می‌شود.
تاکنون، برنامه‌نویسان از روشی به نام موازی‌سازی تِنسوری (Tensor Parallelism) استفاده می‌کردند تا این فشار را بین چند واحد پردازش گرافیکی پخش کنند، اما بعد از یک حد خاص، واحدهای پردازش گرافیکی مجبور می‌شوند نسخه‌های تکراری از حافظه KV را نگه دارند، که باعث می‌شود فشار حافظه بیشتر هم بشود.
هلیکس چطور این مشکل را حل می‌کند؟
هلیکس با جدا کردن دو بخش اصلی مدل یعنی توجه یا attention و شبکه تغذیه پیش رو آن‌ها را به‌طور مستقل اجرا می‌کند. در مرحله توجه (attention)، هلیکس با استفاده از روشی جدید به نام KV Parallelism (KVP) حافظه KV را بین واحدهای پردازش گرافیکی تقسیم می‌کند، بدون اینکه تکراری ایجاد شود.
به زبان ساده به‌جای اینکه هر واحد پردازش گرافیکی مجبور باشد کل حافظه قبلی را بخواند، فقط بخشی از آن را پردازش می‌کند. سپس، همین واحدها به حالت قبلی (TP) برمی‌گردند تا بخش شبکه تغذیه پیش رو را اجرا کنند این یعنی استفاده‌ی هوشمندانه از منابع، بدون اینکه واحدهای پردازش بیکار بمانند.
هلیکس از اتصال‌های پرسرعت انویدیا مثل NVLink و NVL۷2 استفاده می‌کند تا داده‌ها را بین واحدهای پردازش گرافیکی به‌سرعت جابه‌جا کند. همچنین تکنیکی به نام HOP-B را معرفی می‌کند که محاسبات و انتقال اطلاعات را همزمان انجام می‌دهد، تا تاخیرها باز هم کمتر شوند.
جهشی بزرگ در عملکرد
در شبیه‌سازی‌هایی که با یک مدل بسیار بزرگ به نام DeepSeek-R1 671B انجام شده که مدلی با ظرفیت پردازش یک میلیون توکن یا کلمه است، مشخص شد که هلیکس می‌تواند تا ۳۲ برابر بیشتر از روش‌های قبلی به کاربران همزمان پاسخ دهد و این بدون افزایش تاخیر انجام می‌شود.
در بارهای کاری سبک یعنی وقتی کاربران زیادی به‌طور همزمان فعال نیستند، هلیکس می‌تواند زمان پاسخ‌دهی را تا ۱.۵ برابر کاهش دهد. حتی وقتی اندازه متن‌ها به میلیون‌ها کلمه برسد، هلیکس همچنان استفاده از حافظه را کنترل‌شده نگه می‌دارد و سرعت پردازش را ثابت نگه می‌دارد. این سیستم حافظه KV را به‌صورت چرخشی به‌روزرسانی می‌کند تا از فشار ناگهانی روی حافظه یا شلوغی بیش از حد واحدهای پردازش جلوگیری شود.
نتیجه نهایی
هلیکس به مدل‌های هوش مصنوعی امکان می‌دهد که در عین بزرگ شدن، سریع هم بمانند بدون اینکه عملکرد در لحظه(real-time) قربانی شود. این یعنی دستیارهای مجازی و ربات‌های حقوقی هوش مصنوعی اکنون می‌توانند با وجود بارهای عظیم، همچنان پاسخ‌گو، سریع و حاضر باقی بمانند.
منبع : انویدیا
مخزن تحت فشار چگونه طراحی، ساخته و آزمایش می‌شود؟
حسگر مچی عرق بدن را می سنجد
پهپاد هواشناسی چندبارمصرف برای پرواز در ارتفاع ۱۰ کیلومتری
وزیر آموزش و پرورش: هیچ کودکی نباید قربانی فقر و محرومیت شود
شبکه دانش‌آموختگان سمپاد راه‌اندازی شد
عدالت آموزشی یعنی هیچ استعدادی از فرصت رشد محروم نماند
مدارس جدید بدون مناسب‌سازی افتتاح نمی‌شوند
تهران ملی‌ترین شهر ایران است
از تسخیر اذهان تا بحران حقیقت؛ بازخوانی دو اثر تازه در عصر رسانه
چرا سیدحسن حاضر بود همه فرماندهانش شهید شوند اما ایران آسیب نبیند؟
راغب از تازه‌ترین آلبوم خود رونمایی کرد؛ دنبال جذب و دفع فالوور نیستم!
ارتقای ۹ پله‌ای دانشگاه صنعتی امیرکبیر در ارزیابی شبکه آزمایشگاهی کشور
ردپای یک متخصص امنیت سایبری کانادا در سرقت از اف بی آی
تلسکوپ جیمز وب منشأ یک انفجار سریع رادیویی دوردست را شناسایی کرد
خرابکاری جدید کلاود؛ نفوذ به وب سایت های دولتی آمریکا
ایلان ماسک یک مدیر فناوری هندی را مسخره می کند!
حمایت ۱۲۰میلیون تومانی دانشگاه امام صادق (ع) از رتبه‌های زیر ۵۰۰ کنکور
بررسی راهکارهای پذیرش دانشجویان بین‌الملل در دانشگاه الزهرا(س)
جذب رتبه‌های برتر در رشته های اولویت دار کشور در کنکور ۱۴۰۵
مهلت انتخاب رشته کنکور ۱۴۰۵ تمدید نمی‌شود
اصلاحات شرایط استخدام اعضای هیئت علمی؛ تغییر محاسبه فوق‌العاده حقوق
نتایج نهایی پذیرش در پنجاه و سومین دوره آزمون دستیاری پزشکی اعلام شد
صدور حکم بدوی برای ۳۰ پرونده انضباطی دانشجویان؛ حکم اخراجی نداشتیم
وام دستیاری برای متاهلین و مجردین ۴۰ و ۳۰ میلیون تعیین شد
جدیدترین آمار انتخاب رشته در کنکور ۱۴۰۵؛ فردا آخرین فرصت انتخاب رشته
افزایش چشمگیر کاربران وفادار به سکوهای ایرانی؛ خدمات سکوها پایدار شد
ترکیه دسترسی کودکان زیر ۱۵ سال به شبکه‌های اجتماعی را ممنوع کرد
آغاز آنلاین مشاوره و آموزش سلامت روان؛ خدمات سلامت روان با زبان نسل زد
شیوه جدید پذیرش دانشجو در دوره های «هم‌آموز» کلید خورد
تأکید بر توسعه بازرسی‌های پیشگیرانه و داده‌محور در وزارت ارتباطات
مجلات نمایه‌شده SCIE و ESCI در ارزشیابی مقالات دارای اعتبار ISI هستند
اختصاص بورس نخبگان دانشگاه تهران به رتبه های زیر ۱۰۰ در کنکور
تعلیق برنامه گرین‌کارت مایکروسافت
ساعت ۱۲ امشب آخرین مهلت انتخاب رشته در کنکور سراسری سال ۱۴۰۵
مهلت ثبت‌نام آزمون وکالت مرکز وکلای قوه قضائیه مجدد تمدید شد
تمدید مهلت انتخاب رشته آزمون های سراسری و پذیرش دانشجو معلم تا ۱۹ مهر
مخاطرات ورود هوش مصنوعی به کلاس‌های درس
اوپن ای آی میزان استفاده روزانه نوجوانان از چت بات را اعلام کرد
بخشنامه و ضوابط جامع فعالیت مؤسسات جذب دانشجویان بین‌الملل ابلاغ شد
رشته‌محل‌های جدید و اصلاحات دفترچه انتخاب رشته کنکور ۱۴۰۵ اعلام شد
شرایط خوابگاهی دانشگاه‌های کشور برای داوطلبان کنکور ۱۴۰۵ اعلام شد
تحلیل وزیر آموزش و پرورش از نقش فراجا در تأمین امنیت کشور
مجتبی جباری به «هم‌کلام» می‌آید
اختتامیه رویداد ملی «همچو سرو» برگزار شد
«پپا»، همراه کوچک کودکان در یک روز پرماجرا
روایت ۸۰ روز زندگی یک خبرنگار در دل جنگ غزه، منتشر شد
وقتی صدای جمع، صدای عقل را خاموش می‌کند
برگزاری نشست تخصصی «مبانی الهیاتی و اجتماعی جان‌فدا» در تهران
کاظمی:تعطیلی احتمالی مدارس بر اساس شرایط هر منطقه تعیین می‌شود
مشاوران مبعوث؛ پیشگامان هدایت آگاهانه و انتخاب رشته کنکور
آرشیو الکترونیکی ۲۱ هزار عنوان کتاب درسی از سال ۱۳۳۰
آموزش قرآن در برنامه‌درسی ملی باید مورد توجه قرار گیرد
چهار فضانورد اسپیس ایکس به زمین باز می‌گردند
برندگان نوبل شیمی معرفی شدند
آیا الگوریتمها شخصیت مارا می‌سازند؟
تحلیلی بر مناسبات فقه و تاریخ دوره نبوی
گفتن حقیقت درباره صاحبان قدرت، چه از سوی حوزه و چه قضا، هزینه دارد
بخل از کجا می‌آید؟؛ گنجی که صاحبش را نگهبان ترس می‌کند
«حیوانات» بن افلک بدترین نقدها را گرفت؛ فاجعه بود!
چین و عربستان هم آمدند؛ ۹۸ کشور در رقابت بهترین فیلم بین‌المللی اسکار
غزل شاکری و سیامک صفری به تالار وحدت می‌آیند؛ اجرای اقتباسی از «ویتسک»
داریوش عیاری فیلمبردار سینما درگذشت
حمایت بانک‌ها از ۴ دانشگاه آسیب دیده از جنگ کلید خورد
ساخت چندین ماهواره سنجشی ایران با دقت تصویربرداری یک متر
نوبل فیزیک به «پیام‌های شبح‌وار از فضا» رسید
آرای نهایی ۱۴ پرونده انضباطی دانشجویان مرتبط با حوادث دی‌ماه صادر شد
تصویب صندوق عدالت آموزشی برای حمایت از دانش‌آموزان مناطق محروم
دانشجویان دانشگاه هنر نقوش ایرانی را در طراحی پوشاک به‌کار گرفتند
آغاز اجرای طرح «ردا کارت» دانشجویی در ۲۰ دانشگاه کشور طی ۱۰ روز آینده
مدیر ناسا: یوفوها می‌توانند یک «لحظه اسپوتنیک» باشند
«کامپیوتر شریف» انتخاب اول برترین رتبه های ریاضی کنکور ۱۴۰۵
واتس‌اپ ورود کاربران با سیستم‌عامل قدیمی را مسدود می‌کند
کشف سیاره ای که از خاکستر ستاره اش متولد شد
اوپن ای آی ویکی مدیا را هم هک کرد
رتبه ۶ کنکور: جنگ را مدیریت کردم، نه اینکه تسلیمش شوم
وزیر آموزش و پرورش: معیشت معلمان را جدی پیگیری می‌کنیم
ارتقای کیفیت آموزشی اولویت مدارس غیردولتی است
توزیع ۷۶۵ میلیارد تومان تجهیزات ورزشی در ۶۲ هزار مدرسه
قهرمانی دانش‌آموزان ایرانی در مالزی؛ سه سکوی نخست برای ایران
سرپرست صندوق ذخیره فرهنگیان منصوب شد
ثبت نام در رشته‌های بدون آزمون کنکور ۱۴۰۵ آغاز شد
حضور ۸۹ دانشگاه ایرانی در رتبه بندی دانشگاه‌های جهان تایمز ۲۰۲۷
رشته‌محل‌های جدید و اصلاحات دفترچه انتخاب رشته کنکور ۱۴۰۵ اعلام شد
آرای نهایی ۱۴ پرونده انضباطی دانشجویان مرتبط با حوادث دی‌ماه صادر شد
دیار: نخستین همکاری شهرام ناظری و تهمورس پورناظری
آغاز اجرای طرح «ردا کارت» دانشجویی در ۲۰ دانشگاه کشور طی ۱۰ روز آینده
آغاز انتخاب رشته کنکور ۱۴۰۵؛ لزوم دریافت رسید انتخاب رشته
اسپانیا و پرتغال مقصد جدید اعضای هیئت علمی برای فرصت مطالعاتی
توزیع ۷۶۵ میلیارد تومان تجهیزات ورزشی در ۶۲ هزار مدرسه
پیشنهاد برای ساخت فصل دوم سریال «اکسیر»؛ بازخورد خوبی گرفتیم
نوبل فیزیک به «پیام‌های شبح‌وار از فضا» رسید
توافق مجلس و شورای عالی انقلاب فرهنگی برای بررسی سهمیه‌های کنکور
مهلت ثبت‌نام آزمون وکالت مرکز وکلای قوه قضائیه مجدد تمدید شد
کمک اربعین به بازتولید حافظه تاریخی مقاومت و سرمایه اجتماعی فراملیتی
قهرمانی دانش‌آموزان ایرانی در مالزی؛ سه سکوی نخست برای ایران
ساخت چندین ماهواره سنجشی ایران با دقت تصویربرداری یک متر
دانشجویان دانشگاه هنر نقوش ایرانی را در طراحی پوشاک به‌کار گرفتند
حمایت بانک‌ها از ۴ دانشگاه آسیب دیده از جنگ کلید خورد
بخشنامه و ضوابط جامع فعالیت مؤسسات جذب دانشجویان بین‌الملل ابلاغ شد
علت لغو کنسرت علیرضا قربانی در شاندیز چه بود؟
دیوارنگاره میدان جهاد به رنگ پایتخت درآمد
سید حسن نصرالله رهبران جنبش‌های آزادی‌بخش را تحت‌تأثیر قرار داد
«کامپیوتر شریف» انتخاب اول برترین رتبه های ریاضی کنکور ۱۴۰۵
جستارهایی در فلسفه علوم حکمی کتاب شد
برندگان نوبل پزشکی ۲۰۲۶ معرفی شدند؛ کنترل سلول‌های عصبی با نور
وزیر آموزش و پرورش: معیشت معلمان را جدی پیگیری می‌کنیم
هوش مصنوعی کسب وکار یابندگان باگ های نرم افزاری را کساد کرد
تصویب صندوق عدالت آموزشی برای حمایت از دانش‌آموزان مناطق محروم
مطالبات دانشجویان دانشگاه الزهرا(س) در نشست با مسئولان بررسی شد
دوازدهمین شماره «خردورزی» با پرونده‌ای درباره نسل نو منتشر شد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.