کد خبر: 169587
ف
توکن‌سازی، قلب تپنده مدل‌های هوشمند تحلیل سری‌های زمانی
تیم پژوهشی دانشکدگان علوم دانشگاه تهران، به نتایج پیشرو در طبقه‌بندی سری‌های زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکن‌سازی» دست یافت.

به گزارش ثریا - در پی دستیابی تیم پژوهشی دانشکدگان علوم، متشکل از باقر باباعلی، دانشیار دانشکده ریاضی، آمار و علوم کامپیوتر و محمدمهدی عزیزی، دانشجوی دکترای علوم کامپیوتر دانشکدگان علوم، به نتایج پیشرو در طبقه‌بندی سری‌های زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکن‌سازی» باباعلی، سرپرست تیم، ابعاد نظری و عملی این دستاورد را تشریح کرد.

وی در تحلیل یافته‌های پژوهشی جدید با عنوان «توجه به توکن‌سازی» گفت: موفقیت مدل‌های مبتنی بر توجه در حوزه‌های پیچیده‌ای مانند تشخیص پزشکی و پیش‌بینی مالی، بیش از هر چیز وابسته به شیوه هوشمندانه قطعه‌بندی و درک معنای داده‌های زمانی است.

وی این فرآیند را کلید غلبه بر چالش تنوع گسترده در دنیای سری‌های زمانی دانست و با اشاره به چالش اصلی این حوزه گفت: تنوع بی‌نظیر در ماهیت، نویز، مقیاس و فرکانس داده‌های سری زمانی، رؤیای ساخت یک مدل پایه جهانی را به یکی از مسائل دشوار هوش مصنوعی تبدیل کرده بود. پژوهش حاضر با بازتعریف چارچوب میکسر ماتریسی به عنوان یک جعبه ابزار، گامی ساختاریافته به سوی این هدف برداشته است.

وی در توضیح اهمیت یافته «توجه به توکن‌سازی» افزود: نتایج به وضوح نشان می‌دهد که صرف استفاده از یک معماری قدرتمند مانند ترنسفورمر کافی نیست. «توکن‌سازی» مرحله تبدیل داده خام به زبانی است که مدل می‌فهمد. اگر این ترجمه ناقص یا نادرست انجام شود، مدل هر چقدر هم قوی باشد، بر روی داده‌های اشتباه آموزش دیده است. تمرکز این تحقیق بر بهینه‌سازی دقیق این مرحله، یعنی «تعبیه قطعات» یا Patch Embedding، دلیل اصلی ارتقای چشمگیر دقت مدل‌هاست.

این استاد دانشگاه در مقایسه روش‌های ادغام اطلاعات زمانی اظهار داشت: مکانیزم توجه (Attention) به مدل این توانایی را می‌دهد که به صورت پویا، روابط بلندمدت و کوتاه‌مدت بین همه قطعات داده را کشف و وزن دهد. این برتری کیفی نسبت به روش‌هایی مانند MLP-Mixer که صرفاً ترکیبی خطی انجام می‌دهند، به خصوص در داده‌های پیچیده‌ای مانند سیگنال‌های مغزی که وابستگی‌های زمانی ظریفی دارند، کاملاً حیاتی و تعیین‌کننده است.

باباعلی در پاسخ به سؤالی درباره آینده این پژوهش‌ها گفت: مسیر پیش‌رو، حرکت به سمت «توکن‌سازی تطبیقی» و «هوشمند» است. آیا می‌توانیم به مدل بیاموزیم که خودش بهترین روش برای قطعه‌بندی داده را بیابد؟ این یک سوال پژوهشی عمیق در تقاطع یادگیری ماشین و پردازش سیگنال است. دستیابی به آن، انقلابی در تحلیل داده‌های زیستی و صنعتی ایجاد خواهد کرد.

وی در پایان با اشاره به نتایج عددی تحقیق خاطرنشان کرد: دستیابی به دقت متوسط ۸۶ درصد در حالت خودنظارتی روی بنچ‌مارک‌های معتبر، تنها یک عدد نیست. این رقم نشان می‌دهد که مدل توانسته است بدون نیاز به برچسب‌های پر هزینه، مفاهیم نهفته در داده‌های زمانی را به خوبی بیاموزد. این ویژگی، گنجینه‌ای برای کاربردهای واقعی در شرایطی است که داده‌های برچسب‌دار محدود هستند.

به گزارش روابط عمومی دانشگاه تهران، به نظر می‌رسد با تلفیق بینش‌های عمیق آماری و علوم داده با معماری‌های نوین یادگیری عمیق، افق‌های تازه‌ای برای هوشمندسازی تحلیل داده‌های پیوسته در حال گشوده شدن است.

برای کسب اطلاعات بیشتر اینجا کلیک کنید.

منبع : توکن سازی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

«بچه مردم» به جشنواره زلین جمهوری چک می‌رود

«صبح روز چهلم» روی آنتن می‌رود؛ روایتی از جنگ رمضان

مستند «عروس لبنان» آماده نمایش شد

از تثبیت اجاره بهای سالن‌های کنسرت چه خبر؟

رابرت دنیرو دوباره برای اسکورسیزی بازی می‌کند

توزیع ۳۰ هزار وعده غذایی میان زائران در حرم حضرت عباس(ع)

تمدید ثبت نام در مرحله دوم آزمون دکتری ۱۴۰۵ در دانشگاه علامه

آخرین مهلت پذیرش دکتری استادمحور بدون آزمون دردانشگاه علم و صنعت ایران

اینستاگرام، فیس بوک و واتس‌اپ پولی می‌شوند؟

ساعت ۱۲ امشب آخرین فرصت ثبت نام در کنکور ۱۴۰۵

فیلم کوتاه «تامینا» روایت انسان ‌های گرفتار انتخاب

فرماندهی رهبر شهید در بحران‌ها چگونه بود؟

از شروع «طوفان» با بازی کنت برانا تا اجرای نمایشی جدید در کاخ هنر

احیای موزه هنرهای معاصر اهواز با رویداد «سرزمین خورشید»

«آداب‌الحرب و الشجاعه»، نثری استوار از عشق به صلح و آیین جنگ

آزمون جایگزین دانش‌آموختگان پزشکی خارج از کشور برگزار شد

گوگل‌پلی و اپ‌استور در دسترس قرار گرفت

منع ثبت نام در کنکور ۱۴۰۵ برای ۳ گروه از داوطلبان

ظرفیت ۶۸۰ نفری برای فلوشیپ پزشکی

اعلام نتایج نهایی آزمون دستیاری فوق تخصصی پزشکی

توضیح وزیر علوم درباره حضوری شدن کلاس‌ها و امتحانات دانشگاه‌ها

کلاس های تحصیلات تکمیلی دانشگاه تهران حضوری شد

معرفی۱۳۶مؤسسه غیرمجاز اعزام دانشجو به مراجع قضایی

عید قربان؛ تجلی بندگی و عبور از تعلقات در مکتب ادیان ابراهیمی

به مناسبت عید قربان: حیات معنوی انسان بدون ایثار امکان‌پذیر نیست

برگزاری پویش یک‌ماهه حفظ سوره فتح در آستانه ماه محرم

جشنواره تورنتو به استقبال «اودیسه» نولان می‌رود

کارگردان و عضو خانه تئاتر دچار حادثه شد

شکوه دعای امروز عرفه در مسجد مقدس جمکران

متن تشکر سید مجید موسوی از مهدی رسولی+عکس

پیرمرد بیرجرندی در اوج طوفان پرچم ایران را بر زمین نینداخت

«تیرانداز زبردست» با استقبال کودکان و نوجوانان به چاپ دوم رسید

تارا و رؤیای داشتن یک تلفن همراه شخصی

رمان «فرار از زنگ ورزش» برای نوجوانان منتشر شد

قصه گویی یک اسباب‌بازی ارزان اما اثرگذار برای کودکان

ارسطوی پایتخت با یک سریال جدید به شبکه یک آمد

جناب خان و الیکا عبدالرزاقی به آنتن تلویزیون برگشتند

اسلام‌هراسی علیه زنان محجبه در اروپای سال ۲۰۲۵ افزایش یافته است

عدالت و پیشرفت در نگاه شهید لاریجانی چگونه بود؟

بازتاب گسترده پیام رهبر انقلاب به مناسبت برگزاری حج در رسانه‌های بین المللی

شرایط تغییر مدرسه در مرداد و شهریور اعلام شد

درخواست رئیس جمهور: زمینه حضور اساتید برجسته برای انتقال آموزش‌های نوین فراهم شود

آیین‌نامه «توسعه مشارکت‌های مردمی از طریق تشکیل هیئت امنا در مدارس دولتی» تصویب شد

آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد

این دعای عرفه را بخوانید تا ببینید چرا پدران ما قرن‌هاست حسین حسین (ع) می‌گویند

روزه گرفتن در روز عرفه چه حکمی دارد؟

توصیه آیت الله جوادی آملی برای انجام این عمل در روز عرفه

از ظهر تا غروب عرفه؛ این ساعت‌ها را از دست ندهید

آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید

جریمه چند میلیون دلاری و سنگین در انتظار گوگل در اروپا

رئیس‌جمهور مصوبه بازگشایی اینترنت بین‌الملل را ابلاغ کرد

صفحه اینترنت پرو از سایت همراه اول حذف شد+عکس

روایت وزیر ارتباطات از بازگشایی اینترنت

۵۰ برج فناوری احداث می‌شوند: ۳ دانشگاه پایلوت زیست بومی نوآوری می‌شود

«سعی صفا و مروه» در حج نماد چیست؟

افزایش پذیرش دانشجوی شهریه‌پرداز در دانشگاه تربیت مدرس

تائید ۱۲ رئیس دانشگاه و رئیس شهرک علمی صنعتی اصفهان

جزئیات برگزاری امتحانات و کلاس‌های دانشگاه تربیت مدرس و علم و صنعت اعلام شد

کلاس‌های دانشگاه شریف تا اطلاع ثانوی مجازی شد

کارمند گوگل در پی اعتراض به همکاری با رژیم صهیونیستی اخراج شد

مصوبات مهم جلسه ستاد فضای مجازی درباره وضعیت اینترنت اعلام شد

۱۷ هزار نسخه خطی کم‌نظیر و در معرض خطر دیجیتال سازی شد

«آدم با صدای بلند برای فرزندانش گریست» کتاب شد

کتاب‌هایی خواندنی برای بچه‌های ایران

فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟

اگر خرمشهر آزاد نشده بود چه اتفاقی می‌افتاد؟

پیام آیت‌الله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی

دیگر اثری از بخارهای قمر مشتری نیست

الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس

شما بودید که شرف را معنا کردید +عکس

محسن شریفیان به مدرسه میناب رفت+عکس

«مثلی لا یبایع مثله» شعار اربعین حسینی امسال شد

راهکارهای مدیریت اضطراب دانش‌آموزان در روزهای امتحان چگونه است؟

امتحانات نهایی دانش‌آموزان مجازی می‌شود؟

عملیات بیت‌المقدس در ۲۰ کتاب درسی ثبت می‌شود

امام باقر (ع) احیاگر مرجعیت علمی اهل‌ بیت و پیشگام مبارزه با تحریف دین

یک ماهواره جاسوسی در فضا شناسایی شد

تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد

ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان

تمهیدات جدید آموزشی در دانشگاه‌ علم و صنعت اعلام شد

ارتقای خدمات خوابگاهی دانشگاه تهران همزمان با آغاز اسکان دانشجویان

جزئیات امتحانات و کلاس‌های ترم دوم در چند دانشگاه کشور اعلام شد

آگهی/ خرید قسطی طلای آب شده تا سقف ۱۰۰ میلیون تومان از وال گلد

تمهیدات جدید آموزشی در دانشگاه‌ علم و صنعت اعلام شد

دیگر اثری از بخارهای قمر مشتری نیست

الهام پاوه نژاد برای سالروز آزادسازی خرمشهر نوشت+عکس

تمدید مهلت ثبت مهمانی و نقل و انتقال دانشجویان تا ۸ خرداد

شما بودید که شرف را معنا کردید +عکس

کلاس‌های دانشگاه شریف تا اطلاع ثانوی مجازی شد

افزایش پذیرش دانشجوی شهریه‌پرداز در دانشگاه تربیت مدرس

یک ماهواره جاسوسی در فضا شناسایی شد

پیام آیت‌الله نوری همدانی به مناسبت چهل و چهارمین سالگرد تأسیس دانشگاه آزاد اسلامی

محسن شریفیان به مدرسه میناب رفت+عکس

فروش فیلم جدید اصغر فرهادی در فرانسه چقدر است؟

امتحانات نهایی دانش‌آموزان مجازی می‌شود؟

«مثلی لا یبایع مثله» شعار اربعین حسینی امسال شد

«آدم با صدای بلند برای فرزندانش گریست» کتاب شد

عملیات بیت‌المقدس در ۲۰ کتاب درسی ثبت می‌شود

کتاب‌هایی خواندنی برای بچه‌های ایران

مصوبات مهم جلسه ستاد فضای مجازی درباره وضعیت اینترنت اعلام شد

راهکارهای مدیریت اضطراب دانش‌آموزان در روزهای امتحان چگونه است؟

امام باقر (ع) احیاگر مرجعیت علمی اهل‌ بیت و پیشگام مبارزه با تحریف دین

۵۰ برج فناوری احداث می‌شوند: ۳ دانشگاه پایلوت زیست بومی نوآوری می‌شود

روزه گرفتن در روز عرفه چه حکمی دارد؟

به مناسبت عید قربان: حیات معنوی انسان بدون ایثار امکان‌پذیر نیست

اگر خرمشهر آزاد نشده بود چه اتفاقی می‌افتاد؟

۱۷ هزار نسخه خطی کم‌نظیر و در معرض خطر دیجیتال سازی شد

توصیه آیت الله جوادی آملی برای انجام این عمل در روز عرفه

آمار ثبت نام در کنکور ۱۴۰۵ به حدود یک میلیون نفر رسید

اعلام نتایج نهایی آزمون دستیاری فوق تخصصی پزشکی