به گزارش ثریا - این سیستم جدید بهطور ویژه برای پردازنده گرافیکی بلکول (Blackwell) طراحی شده و با استفاده از روشی نوآورانه به نام هلیکس (Helix)، بازنویسی و درک متنهای خیلی طولانی را متحول میکند و استاندارد جدیدی برای تعامل سریع و همزمان با کاربران متعدد ایجاد میکند. بلکول جدیدترین پردازنده گرافیکی انویدیا با قدرت و سرعت بالا برای اجرای مدلهای بزرگ هوش مصنوعی است.
قدرتی نو برای پردازش متنهای عظیم
به نقل از آیای، انویدیا یک روش جدید و قدرتمند به نام موازیسازی هلیکس (Helix Parallelism) ارائه کرده است که میتواند بهطور چشمگیری عملکرد مدلهای هوش مصنوعی را هنگام پردازش متنهای بسیار طولانی بهبود بخشد.
این روش به مدلهای هوش مصنوعی این امکان را میدهد که میلیونها کلمه را بهطور همزمان پردازش کنند. برای مثال زمانی که یک چتبات یا دستیار هوش مصنوعی باید کل یک دایرةالمعارف یا مکالمه چندماهه را بررسی کند و درعینحال پاسخهایی بسیار سریع بدهد.
هلیکس بهطور ویژه برای هماهنگی با پردازندههای گرافیکی جدید انویدیا به نام بلکول طراحی شده که پهنای باند حافظه بسیار بالا و قدرت محاسباتی فوقالعادهای دارند.
مشکل اصلی: پردازش حافظه زیاد و سنگین
وقتی مدلهای هوش مصنوعی بزرگ میخواهند پاسخ جدید تولید کنند، باید تمام متنهای قبلی را که به آنها داده شده بررسی کنند این مجموعهی قبلی «کانتکست» یا متن زمینه (context) نامیده میشود.
برای هر کلمه جدید، مدل باید بارها و بارها حافظهای به نام KV cache را بخواند، که حاوی همه توکنها یا کلمات قبلی است. این خواندن مکرر باعث فشار شدید به حافظه واحد پردازش گرافیکی (GPU) میشود. علاوه بر این، مدل باید در هر مرحله مقادیر عظیمی از دادهها را برای بخش شبکه تغذیه پیش رو (FFN) دوباره از حافظه بارگیری کند، که باعث کندی شدید، مخصوصا در برنامههای زنده مانند چتباتها میشود.
تاکنون، برنامهنویسان از روشی به نام موازیسازی تِنسوری (Tensor Parallelism) استفاده میکردند تا این فشار را بین چند واحد پردازش گرافیکی پخش کنند، اما بعد از یک حد خاص، واحدهای پردازش گرافیکی مجبور میشوند نسخههای تکراری از حافظه KV را نگه دارند، که باعث میشود فشار حافظه بیشتر هم بشود.
هلیکس چطور این مشکل را حل میکند؟
هلیکس با جدا کردن دو بخش اصلی مدل یعنی توجه یا attention و شبکه تغذیه پیش رو آنها را بهطور مستقل اجرا میکند. در مرحله توجه (attention)، هلیکس با استفاده از روشی جدید به نام KV Parallelism (KVP) حافظه KV را بین واحدهای پردازش گرافیکی تقسیم میکند، بدون اینکه تکراری ایجاد شود.
به زبان ساده بهجای اینکه هر واحد پردازش گرافیکی مجبور باشد کل حافظه قبلی را بخواند، فقط بخشی از آن را پردازش میکند. سپس، همین واحدها به حالت قبلی (TP) برمیگردند تا بخش شبکه تغذیه پیش رو را اجرا کنند این یعنی استفادهی هوشمندانه از منابع، بدون اینکه واحدهای پردازش بیکار بمانند.
هلیکس از اتصالهای پرسرعت انویدیا مثل NVLink و NVL۷2 استفاده میکند تا دادهها را بین واحدهای پردازش گرافیکی بهسرعت جابهجا کند. همچنین تکنیکی به نام HOP-B را معرفی میکند که محاسبات و انتقال اطلاعات را همزمان انجام میدهد، تا تاخیرها باز هم کمتر شوند.
جهشی بزرگ در عملکرد
در شبیهسازیهایی که با یک مدل بسیار بزرگ به نام DeepSeek-R1 671B انجام شده که مدلی با ظرفیت پردازش یک میلیون توکن یا کلمه است، مشخص شد که هلیکس میتواند تا ۳۲ برابر بیشتر از روشهای قبلی به کاربران همزمان پاسخ دهد و این بدون افزایش تاخیر انجام میشود.
در بارهای کاری سبک یعنی وقتی کاربران زیادی بهطور همزمان فعال نیستند، هلیکس میتواند زمان پاسخدهی را تا ۱.۵ برابر کاهش دهد. حتی وقتی اندازه متنها به میلیونها کلمه برسد، هلیکس همچنان استفاده از حافظه را کنترلشده نگه میدارد و سرعت پردازش را ثابت نگه میدارد. این سیستم حافظه KV را بهصورت چرخشی بهروزرسانی میکند تا از فشار ناگهانی روی حافظه یا شلوغی بیش از حد واحدهای پردازش جلوگیری شود.
نتیجه نهایی
هلیکس به مدلهای هوش مصنوعی امکان میدهد که در عین بزرگ شدن، سریع هم بمانند بدون اینکه عملکرد در لحظه(real-time) قربانی شود. این یعنی دستیارهای مجازی و رباتهای حقوقی هوش مصنوعی اکنون میتوانند با وجود بارهای عظیم، همچنان پاسخگو، سریع و حاضر باقی بمانند.
منبع : انویدیا
تینو صالحی سرگرد کلانتری ۱۱ شد
داوران فصل جدید حسینیه معلی معرفی شدند
جشن میلاد و مراسم عقد دانشجویی در کاروانهای عمره دانشگاهیان برگزار شد
این افراد نمیتوانند در آزمون کارشناسی ارشد ۱۴۰۵ شرکت کنند
تغییرات مهم کنکور ارشد ۱۴۰۵: حذف حکمرانی از رشتهها در آزمون
امروز آخرین فرصت تکمیل مدارک و ویرایش رشته در پذیرش مستقیم دستیاری ۱۴۰۴
مغایرت معدل در کنکور ارشد: از چند صدم تا لغو کامل قبولی
بررسی علمی تأثیر چای و قهوه بر پوکی استخوان در سالمندان
مصرف داروهای ضدافسردگی در دوران شیردهی خطری برای رشد مغز نوزاد ندارد
خطر پنهان خالکوبی؛ تغییر دائمی سیستم ایمنی و تأثیر بر واکسنها
افتتاح مدرسه جدید ایرانیان دوحه با حضور وزیر آموزش و پرورش
علت مخالفت آموزش و پرورش با تعطیلی مدارس/ بودجه بلاتکلیف «شاد» در انتظار تصویب در قانون
گفتوگو با مراقب سلامتی که با اقدام بهموقع، دانشآموزش را از خفگی نجات داد
بانوی ایرانی در میان ۱۰ فرد تاثیرگذار جهان علم در سال ۲۰۲۵
سفیدسنگ با دو زلزله بزرگتر از ۴ و صفیآباد با زلزله ۴.۳ لرزیدند/ثبت ۳ زلزله در دماوند
شناسایی جهش نادر پروتون در طوفان خورشیدی
عکس روز ناسا از آتش به پا کردن روباه شمالی!
کاهش خطر گرفتاریهای کلینیکی با استفاده از استنت بهینه
برداشت شن و ماسه و قنوات خشک، عامل تشدید فرونشست در جنوب غرب تهران
مادهای شبیه گرافن، سرنوشت انرژی خورشیدی را تغییر داد
آلودگی کلامیدیا، زنگ خطری برای صاحبان پرندگان زینتی
سیصدمین پرواز مداری جهانی در سال ۲۰۲۵ انجام شد
وقتی نور و فشار همزمان برق تولید میکنند
یک کشف راهگشا برای توسعه نسل تازهای از نانوکاتالیستهای کارآمد در تصفیه آب
گووگل عمیقترین عامل پژوهشی هوش مصنوعی خود را عرضه کرد
مدل هوش مصنوعی GPT-5.2 از راه رسید
بلو اوریجین یک مسافر سوار بر ویلچر را به فضا میفرستد
مرضیه برومند پس از ۱۶ سال مقابل دوربین رفت
مسعود کیمیایی به زودی ترخیص میشود
آخرین خبر از وضعیت سلامتی هوشنگ مرادی کرمانی
سینهزنی در جشن تولد امامان جایز است؟
نامهای از بهشت از خدای متعال به بنده مؤمن
اثر شگفتانگیز دعای مادر در حدیثی از پیامبر اسلام (ص)
نماز خواندن با دندان طلا برای مردان صحیح است؟
ماجرای بازبینی و اصلاح وصیتنامه امام خمینی(ره) چه بود؟
دعای همیشگیِ قنوت آیتالله العظمی خوئی
هبة الله صفت کدام پیامبر بود؟
دستور اخلاقی پیامبر(ص) به حضرت زهرا (س)
چرا برحضرت فاطمه (س) صلوات میفرستیم؟
بوسه حاج قاسم عزیز بر کف پای مادر
شیوهای که شهید ماهانی به مادرش احترام میگذاشت
امان مردم غریب و بیامان خوش آمدی / دلیل خلقت زمین و آسمان خوش آمدی
آیا واقعا سادات برای فرار از ظلم خلفا به ایران آمدند؟
چرا از منظر قرآن کریم به پیمانشکن نمیشود اعتماد کرد؟
باز شدن قفل درهای بسته با این ذکر مجرب
این فرمانده محبوب خود را پاسدار معمولی معرفی میکرد
راز برآورده شدن حاجات از زبان استاد آیت الله بهجت
پنج محور اصلی از سیره عملی و اخلاقی حضرت زهرا (س)
شفاعت حضرت زهرا (س)، باعث گستاخی گنهکاران در ارتکاب گناه نمیشود؟
کشف شواهدی از محل دفن اولین بابا نوئل
نیروگاه خورشیدی جدید سالانه تا ۱۰ میلیارد تومان برای دانشگاه درآمد دارد
هشدار جدی وزیر علوم: صنعت بدون تحقیق و توسعه میمیرد
چاپ سهبعدی قرنیه نابینایی را درمان کرد
جشن میلاد حضرت زهرا (س) هیئت کجا بریم؟
آیا بارانی که در زمان آلودگی هوا میبارد خطرناک است؟
آزمون جامع دکتری حذف کامل نمیشود، اما تغییر اساسی میکند
بازسازی چهره مردی که ۱۰ هزار سال پیش در ایران زندگی میکرد
دانشگاههای برتر کشور آماده همکاری تمامعیار با صنعت هستند
خطرناکتر از آرماتا؛ چرا هیولای شوروی هرگز ساخته نشد؟
تشویق یک میلیاردی دانشگاه تهران به اساتید برای انتشار مقالات بینالمللی
حضرت زهرا (س) صاحب ولایت کبری است؛ مقصود از ولایت کبری چیست؟
ضعف بزرگ سامانه لیزری گنبد آهنین
معرفی کتابهایی که روایتی نو از حضرت زهرا (س) بیان میکنند
مقایسه A۱۶ و A۲۶؛ نبرد میانردههای اقتصادی سامسونگ
آنر مجیک ۸ لایت؛ قاتل بهترین میانردههای بازار موبایل
بالش شما ممکن است فشارخونتان را بالا ببرد
یافتن مصدومان زیر آوار به کمک میکروفون گوشیهای هوشمند
کاهش چشمگیر تنبیه بدنی در مدارس/ فرهنگ تربیتی به سمت صمیمیت و احترام میرود
یازدهم تا هفدهم دیماه امتحانی برگزار نشود
ضرورت بازنگری رویکردها در آموزش ریاضی برای دانشآموزان علوم انسانی
مدارگرد ماون مریخ از دسترس خارج شد
حمایت عادلانه از آموزش هوش مصنوعی به کودکان؛ کلید انقلاب اقتصادی آینده است
با چاپ ۳ بُعدی، ویولن سل دیگر فقط متعلق به ثروتمندان نیست
اولین داروی طراحیشده با هوش مصنوعی چه خواهد بود؟
دانشمندان پرده از راز بارورسازی ابرها با یُدید نقره برداشتند
کشف ذخایر لیتیوم از ارتفاع ۱۸ کیلومتری توسط ناسا
مهندس سابق گوگل اولین هوش جامع مصنوعی جهان را ساخت
غول بازار موبایل؛ رقیب ۸۰ میلیونی آیفون و S۲۵ FE را بشناسید
گول ظاهر را نخورید؛ همه پورتهای HDMI یکسان نیستند
وقتی نحوه رانندگی، از یک بیماری پرده برمیدارد / آشنایی با یک هشدار خاموش
هبة الله صفت کدام پیامبر بود؟
باز شدن قفل درهای بسته با این ذکر مجرب
راز برآورده شدن حاجات از زبان استاد آیت الله بهجت
دعای همیشگیِ قنوت آیتالله العظمی خوئی
داوران فصل جدید حسینیه معلی معرفی شدند
افتتاح حساب قرضالحسنه با نیت دریافت وام در آینده جایز است؟
اثر شگفتانگیز دعای مادر در حدیثی از پیامبر اسلام (ص)
آیا واقعا سادات برای فرار از ظلم خلفا به ایران آمدند؟
نامهای از بهشت از خدای متعال به بنده مؤمن
نماز خواندن با دندان طلا برای مردان صحیح است؟
بوسه حاج قاسم عزیز بر کف پای مادر
این فرمانده محبوب خود را پاسدار معمولی معرفی میکرد
تینو صالحی سرگرد کلانتری ۱۱ شد
دستور اخلاقی پیامبر(ص) به حضرت زهرا (س)
مسعود کیمیایی به زودی ترخیص میشود
آخرین خبر از وضعیت سلامتی هوشنگ مرادی کرمانی
طلبه باید وضع مالیاش خوب باشه یا بد؟
شفاعت حضرت زهرا (س)، باعث گستاخی گنهکاران در ارتکاب گناه نمیشود؟
مرضیه برومند پس از ۱۶ سال مقابل دوربین رفت
شیوهای که شهید ماهانی به مادرش احترام میگذاشت
ماجرای بازبینی و اصلاح وصیتنامه امام خمینی(ره) چه بود؟
چگونه خداباوری در عصب مغز انسان جای گرفته؟
چرا برحضرت فاطمه (س) صلوات میفرستیم؟
حامد زمانی برای این فیلم سینمایی خواند
سینهزنی در جشن تولد امامان جایز است؟
واکنش جالب شهید احمد کشوری نسبت به تصاویر مبتذل
روایت اهل سنت از زندگی حضرت زهرا (س) را در این کتاب بخوانید
جشن میلاد حضرت زهرا (س) هیئت کجا بریم؟
امان مردم غریب و بیامان خوش آمدی / دلیل خلقت زمین و آسمان خوش آمدی
چرا کرسیهای فاطمه شناسی ادامه نیافت؟
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.