به گزارش ثریا - در پی دستیابی تیم پژوهشی دانشکدگان علوم، متشکل از باقر باباعلی، دانشیار دانشکده ریاضی، آمار و علوم کامپیوتر و محمدمهدی عزیزی، دانشجوی دکترای علوم کامپیوتر دانشکدگان علوم، به نتایج پیشرو در طبقهبندی سریهای زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکنسازی» باباعلی، سرپرست تیم، ابعاد نظری و عملی این دستاورد را تشریح کرد.
وی در تحلیل یافتههای پژوهشی جدید با عنوان «توجه به توکنسازی» گفت: موفقیت مدلهای مبتنی بر توجه در حوزههای پیچیدهای مانند تشخیص پزشکی و پیشبینی مالی، بیش از هر چیز وابسته به شیوه هوشمندانه قطعهبندی و درک معنای دادههای زمانی است.
وی این فرآیند را کلید غلبه بر چالش تنوع گسترده در دنیای سریهای زمانی دانست و با اشاره به چالش اصلی این حوزه گفت: تنوع بینظیر در ماهیت، نویز، مقیاس و فرکانس دادههای سری زمانی، رؤیای ساخت یک مدل پایه جهانی را به یکی از مسائل دشوار هوش مصنوعی تبدیل کرده بود. پژوهش حاضر با بازتعریف چارچوب میکسر ماتریسی به عنوان یک جعبه ابزار، گامی ساختاریافته به سوی این هدف برداشته است.
وی در توضیح اهمیت یافته «توجه به توکنسازی» افزود: نتایج به وضوح نشان میدهد که صرف استفاده از یک معماری قدرتمند مانند ترنسفورمر کافی نیست. «توکنسازی» مرحله تبدیل داده خام به زبانی است که مدل میفهمد. اگر این ترجمه ناقص یا نادرست انجام شود، مدل هر چقدر هم قوی باشد، بر روی دادههای اشتباه آموزش دیده است. تمرکز این تحقیق بر بهینهسازی دقیق این مرحله، یعنی «تعبیه قطعات» یا Patch Embedding، دلیل اصلی ارتقای چشمگیر دقت مدلهاست.
این استاد دانشگاه در مقایسه روشهای ادغام اطلاعات زمانی اظهار داشت: مکانیزم توجه (Attention) به مدل این توانایی را میدهد که به صورت پویا، روابط بلندمدت و کوتاهمدت بین همه قطعات داده را کشف و وزن دهد. این برتری کیفی نسبت به روشهایی مانند MLP-Mixer که صرفاً ترکیبی خطی انجام میدهند، به خصوص در دادههای پیچیدهای مانند سیگنالهای مغزی که وابستگیهای زمانی ظریفی دارند، کاملاً حیاتی و تعیینکننده است.
باباعلی در پاسخ به سؤالی درباره آینده این پژوهشها گفت: مسیر پیشرو، حرکت به سمت «توکنسازی تطبیقی» و «هوشمند» است. آیا میتوانیم به مدل بیاموزیم که خودش بهترین روش برای قطعهبندی داده را بیابد؟ این یک سوال پژوهشی عمیق در تقاطع یادگیری ماشین و پردازش سیگنال است. دستیابی به آن، انقلابی در تحلیل دادههای زیستی و صنعتی ایجاد خواهد کرد.
وی در پایان با اشاره به نتایج عددی تحقیق خاطرنشان کرد: دستیابی به دقت متوسط ۸۶ درصد در حالت خودنظارتی روی بنچمارکهای معتبر، تنها یک عدد نیست. این رقم نشان میدهد که مدل توانسته است بدون نیاز به برچسبهای پر هزینه، مفاهیم نهفته در دادههای زمانی را به خوبی بیاموزد. این ویژگی، گنجینهای برای کاربردهای واقعی در شرایطی است که دادههای برچسبدار محدود هستند.
به گزارش روابط عمومی دانشگاه تهران، به نظر میرسد با تلفیق بینشهای عمیق آماری و علوم داده با معماریهای نوین یادگیری عمیق، افقهای تازهای برای هوشمندسازی تحلیل دادههای پیوسته در حال گشوده شدن است.
برای کسب اطلاعات بیشتر اینجا کلیک کنید.
منبع : توکن سازی
جزئیات برگزاری مصاحبه مجازی متأخرین دکتری ۱۴۰۵ دانشگاه آزاد اعلام شد
قیمت سامسونگ گلکسی و زد فولد گران می شود
خبر مصوبه شورای عالی فضای مجازی برای برخورد با بلاگرها تکذیب شد
رشد استقبال از آزمون دستیاری در سالهای اخیر
تصویری از تابوت استاد مرحوم اکبر عبدی
پارادوکس در وقف، سودجویی ناشر و موزّع
فانتزی که به شاهنامه تکیه زده است/ احیای حماسه در ادبیات فانتزی ایران
رمان دینی باید افراد معاند و خاکستری را هم پای کتاب بنشاند
بعد از انفجار پیجرها، زندگی چگونه ادامه پیدا کرد؟
حافظه مکتوب ایران چگونه زنده میماند؟
بزرگداشت شیخ صفیالدین اردبیلی در فضای مجازی
صفحه رسمی سفارت آلمان در تهران شایعات تخلیه کارکنان این نمایندگی دیپلماتیک را تکذیب کرد
تصویری از برخاستن ستون دود در اربیل عراق
رهبر شهید بیش از حوزویان با نخبگان دانشگاهی دیدار داشتند
ترامپ انتقام جریمه گوگل را از اروپا می گیرد
خونخواهی رهبر شهید ادامه یک مطالبه تاریخی است؛ انتقام با بیشترین ضربه
اعلام دستمزد طراحان صحنه و لباس تئاتر در سال ۱۴۰۵
خالق فیلم معروف «ماسک» از دنیا رفت؛ جیم کری از همکاری با وی تشکر کرد
خداحافظ آقای عبدی؛ دلمان برایتان تنگ میشود
اعزام ۴۷۴ معلم برگزیده به مدارس خارج از کشور
وزیر آموزش و پرورش: کنکور به موقع برگزار میشود
کشف آنزیمی که میتواند پیری را معکوس کند
چت جی پی تی در سراسر جهان مختل شد
ثبت نام دانش آموختگان خارج از کشور در آزمون پیش کارورزی پزشکی آغاز شد
کلید اولیه آزمون دستیاری پزشکی امروز منتشر میشود
اتحادیه اروپا گوگل را ۸۹۰ میلیون یورو جریمه کرد
سیزدهمین پرتاب استارشیپ موفقیت آمیز بود
رویداد «معماری نوین حکمرانی علم و فناوری کشور» آغاز بکار کرد
آغاز همکاری مشترک برای تدوین سند ملی صلاحیت حرفهای ICT
۳۵۰ پرونده دانشگاه پیامنور در دیوان عدالت اداری بررسی شد
ضرورت تدوین استانداردهای تازه برای خدمات پزشکی پیشرفته
تصمیمگیری درباره حضوری شدن دوره کارشناسی با شورای عالی امنیت ملی است
عزای عمومی برای مردی که خاطره مشترک میلیونها ایرانی بود
مرحله غیرمتمرکز المپیاد علمی دانشجویی کشور برگزار شد
آغاز حضوری سال تحصیلی جدید/آمادگی دانشگاهها برای سناریوهای مختلف
معیارهای جدید همترازی رشتههای دانشگاهی برای استخدام ابلاغ شد
پشتیبانی دکترتو تهران چگونه است؟
رقابت ۱۷ هزار داوطلب در پنجاه و سومین دوره آزمون دستیاری پزشکی آغاز شد
تصویری از ابابیل ۳ در آسمان کویت
امنیت ایران با صلح تحمیلی معامله پذیر نیست
فروش بدون کارمزد خودرو در استانهای درگیر جنگ
کشف یک مولکول ناشناخته روی قمر زحل و پلوتو که دانشمندان توضیحی برای آن ندارند
جزئیات ترم تابستانی دانشگاه خوارزمی اعلام شد
دانشگاه صنعتی امیرکبیر در جایگاه سوم رتبه بندی بنیاد ملی نخبگان
تفاهم دانشگاه شهید بهشتی با بانک برای پرداخت تسهیلات مسکن
فرانسه شبکههای اجتماعی را برای کودکان ممنوع میکند
کلید اولیه آزمون کارشناسی ارشد ۱۴۰۵ تا فردا منتشر می شود
حضور گسترده دانشجویان با ۱۷۵ موکب در مراسم تدفین رهبر شهید
هوش مصنوعی به همتای خود حمله سایبری کرد
پایان مکاتبات کاغذی در ثبت اساسنامه مؤسسات اعزام دانشجو
تصویر منتشر نشده از آیت الله سید مجتبی خامنهای
علت کوریهای بیبازگشت کشف شد
اختصاص وام ضروری به دانشجویان آسیب دیده از جنگ
نتفلیکس استارتاپ هوش مصنوعی بازیگر معروف را خرید
فضاپیمای چینی برای دفاع از زمین با یک سیارک برخورد می کند
قابلیت تماشای عکسهای اسلایدی به تلگرام آمد
فرزهای دندانپزشکی نانویی در ایران تولید شد
روباتها با خواندن فکر فرمانبردار شما میشوند
میراث آیت الله شاهآبادی پیوند میان «عرفان شیعی» و سیاست و جهاد بود
«قرآن رنانی» با دستخط رهبر شهید به بازار نشر رسید
برگزاری همایش موکبداران «جاماندگان اربعین حسینی» در فرهنگسرای ولاء
آغاز طرح امنیتی و خدماتی زیارت اربعین حسینی در نجف اشرف
«سیوشش هفت» غم میناب را از زبان خانواده شهدا به تصویر میکشد
ماندگاری ۸۲ درصدی نخبگان؛ جذب ۴۲۰ فارغالتحصیل از دانشگاههای برتر جهان
تیک تاک دوباره برای کارمندان دولت آمریکا مجاز شد
آیین بزرگداشت رهبر شهید انقلاب فردا در دانشگاه تهران برگزار میشود
شرکت سامسونگ کارمندانش در آمریکا را تعدیل کرد
توییت جالب اکانت سفارت ایران درباره ادعای رهگیری موشک های ایران
اعلام نتایج نهایی آزمون دکتری سال ۱۴۰۵ در دهه اول مردادماه
نحوه برگزاری امتحانات و کلاسهای دانشگاههای علوم پزشکی استانهای جنوبی
مهلت تخلیه خوابگاههای دانشجویی دانشگاه الزهراء تمدید شد
درخشش تیم ملی رباتیک ایران در رقابت روبوکاپ جهانی ۲۰۲۶
توضیح معاون علمی رئیس جمهور درباره سند راهبردی «توسعه فرانچایز دانشبنیان»
امارات مقصد بعدی موشکهای ایرانی؟ +عکس
تغییر در فرایند پذیرش دانشجومعلمان/ ایجاد سهمیه بومی برای برخی رشتهها
بررسی افزایش ۳۰ تا ۵۰ درصدی وامهای دانشجویی
آخرین وضعیت صدور احکام انضباطی دانشجویان خاطی حوادث دی ماه اعلام شد
دفترچه سوالات کنکور ارشد ۱۴۰۵ منتشر شد/ اعلام کلید تا ۳۱ تیر
فروشگاههای اپ طرف ثالث بالاخره وارد اندروید میشوند
ترامپ دسترسی به پستهایش در شبکه اجتماعی تروث را میفروشد
معیارهای جدید همترازی رشتههای دانشگاهی برای استخدام ابلاغ شد
رشد استقبال از آزمون دستیاری در سالهای اخیر
رهبر شهید بیش از حوزویان با نخبگان دانشگاهی دیدار داشتند
پشتیبانی دکترتو تهران چگونه است؟
رقابت ۱۷ هزار داوطلب در پنجاه و سومین دوره آزمون دستیاری پزشکی آغاز شد
ثبت نام دانش آموختگان خارج از کشور در آزمون پیش کارورزی پزشکی آغاز شد
کلید اولیه آزمون دستیاری پزشکی امروز منتشر میشود
اعزام ۴۷۴ معلم برگزیده به مدارس خارج از کشور
تصویری از برخاستن ستون دود در اربیل عراق
صفحه رسمی سفارت آلمان در تهران شایعات تخلیه کارکنان این نمایندگی دیپلماتیک را تکذیب کرد
کشف آنزیمی که میتواند پیری را معکوس کند
فانتزی که به شاهنامه تکیه زده است/ احیای حماسه در ادبیات فانتزی ایران
رمان دینی باید افراد معاند و خاکستری را هم پای کتاب بنشاند
پارادوکس در وقف، سودجویی ناشر و موزّع
بعد از انفجار پیجرها، زندگی چگونه ادامه پیدا کرد؟
اعلام دستمزد طراحان صحنه و لباس تئاتر در سال ۱۴۰۵
وزیر آموزش و پرورش: کنکور به موقع برگزار میشود
ترامپ انتقام جریمه گوگل را از اروپا می گیرد
بزرگداشت شیخ صفیالدین اردبیلی در فضای مجازی
حافظه مکتوب ایران چگونه زنده میماند؟
چت جی پی تی در سراسر جهان مختل شد
جزئیات برگزاری مصاحبه مجازی متأخرین دکتری ۱۴۰۵ دانشگاه آزاد اعلام شد
خداحافظ آقای عبدی؛ دلمان برایتان تنگ میشود
خبر مصوبه شورای عالی فضای مجازی برای برخورد با بلاگرها تکذیب شد
رویداد «معماری نوین حکمرانی علم و فناوری کشور» آغاز بکار کرد
خالق فیلم معروف «ماسک» از دنیا رفت؛ جیم کری از همکاری با وی تشکر کرد
عزای عمومی برای مردی که خاطره مشترک میلیونها ایرانی بود
خونخواهی رهبر شهید ادامه یک مطالبه تاریخی است؛ انتقام با بیشترین ضربه
قیمت سامسونگ گلکسی و زد فولد گران می شود
تصویری از تابوت استاد مرحوم اکبر عبدی
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.