کد خبر: 169587
ف
توکن‌سازی، قلب تپنده مدل‌های هوشمند تحلیل سری‌های زمانی
تیم پژوهشی دانشکدگان علوم دانشگاه تهران، به نتایج پیشرو در طبقه‌بندی سری‌های زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکن‌سازی» دست یافت.

به گزارش ثریا - در پی دستیابی تیم پژوهشی دانشکدگان علوم، متشکل از باقر باباعلی، دانشیار دانشکده ریاضی، آمار و علوم کامپیوتر و محمدمهدی عزیزی، دانشجوی دکترای علوم کامپیوتر دانشکدگان علوم، به نتایج پیشرو در طبقه‌بندی سری‌های زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکن‌سازی» باباعلی، سرپرست تیم، ابعاد نظری و عملی این دستاورد را تشریح کرد.

وی در تحلیل یافته‌های پژوهشی جدید با عنوان «توجه به توکن‌سازی» گفت: موفقیت مدل‌های مبتنی بر توجه در حوزه‌های پیچیده‌ای مانند تشخیص پزشکی و پیش‌بینی مالی، بیش از هر چیز وابسته به شیوه هوشمندانه قطعه‌بندی و درک معنای داده‌های زمانی است.

وی این فرآیند را کلید غلبه بر چالش تنوع گسترده در دنیای سری‌های زمانی دانست و با اشاره به چالش اصلی این حوزه گفت: تنوع بی‌نظیر در ماهیت، نویز، مقیاس و فرکانس داده‌های سری زمانی، رؤیای ساخت یک مدل پایه جهانی را به یکی از مسائل دشوار هوش مصنوعی تبدیل کرده بود. پژوهش حاضر با بازتعریف چارچوب میکسر ماتریسی به عنوان یک جعبه ابزار، گامی ساختاریافته به سوی این هدف برداشته است.

وی در توضیح اهمیت یافته «توجه به توکن‌سازی» افزود: نتایج به وضوح نشان می‌دهد که صرف استفاده از یک معماری قدرتمند مانند ترنسفورمر کافی نیست. «توکن‌سازی» مرحله تبدیل داده خام به زبانی است که مدل می‌فهمد. اگر این ترجمه ناقص یا نادرست انجام شود، مدل هر چقدر هم قوی باشد، بر روی داده‌های اشتباه آموزش دیده است. تمرکز این تحقیق بر بهینه‌سازی دقیق این مرحله، یعنی «تعبیه قطعات» یا Patch Embedding، دلیل اصلی ارتقای چشمگیر دقت مدل‌هاست.

این استاد دانشگاه در مقایسه روش‌های ادغام اطلاعات زمانی اظهار داشت: مکانیزم توجه (Attention) به مدل این توانایی را می‌دهد که به صورت پویا، روابط بلندمدت و کوتاه‌مدت بین همه قطعات داده را کشف و وزن دهد. این برتری کیفی نسبت به روش‌هایی مانند MLP-Mixer که صرفاً ترکیبی خطی انجام می‌دهند، به خصوص در داده‌های پیچیده‌ای مانند سیگنال‌های مغزی که وابستگی‌های زمانی ظریفی دارند، کاملاً حیاتی و تعیین‌کننده است.

باباعلی در پاسخ به سؤالی درباره آینده این پژوهش‌ها گفت: مسیر پیش‌رو، حرکت به سمت «توکن‌سازی تطبیقی» و «هوشمند» است. آیا می‌توانیم به مدل بیاموزیم که خودش بهترین روش برای قطعه‌بندی داده را بیابد؟ این یک سوال پژوهشی عمیق در تقاطع یادگیری ماشین و پردازش سیگنال است. دستیابی به آن، انقلابی در تحلیل داده‌های زیستی و صنعتی ایجاد خواهد کرد.

وی در پایان با اشاره به نتایج عددی تحقیق خاطرنشان کرد: دستیابی به دقت متوسط ۸۶ درصد در حالت خودنظارتی روی بنچ‌مارک‌های معتبر، تنها یک عدد نیست. این رقم نشان می‌دهد که مدل توانسته است بدون نیاز به برچسب‌های پر هزینه، مفاهیم نهفته در داده‌های زمانی را به خوبی بیاموزد. این ویژگی، گنجینه‌ای برای کاربردهای واقعی در شرایطی است که داده‌های برچسب‌دار محدود هستند.

به گزارش روابط عمومی دانشگاه تهران، به نظر می‌رسد با تلفیق بینش‌های عمیق آماری و علوم داده با معماری‌های نوین یادگیری عمیق، افق‌های تازه‌ای برای هوشمندسازی تحلیل داده‌های پیوسته در حال گشوده شدن است.

برای کسب اطلاعات بیشتر اینجا کلیک کنید.

منبع : توکن سازی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

هشتاد و دومین شعبه خودرو۴۵ در ستارخان تهران افتتاح شد

صدرنشینی پژوهشگاه ملی سرطان جهاددانشگاهی در بین مراکز تحقیقات پزشکی

سازماندهی اطلاعات ۴۰ هزار پایان‌نامه ایرانیان خارج از کشور در ایرانداک

سرپرست پارک علم و فناوری فارس منصوب شد

دلتنگ لبخند آقای شهیدیم...

دلیل تأخیر در بازنگری نقشه جامع علمی از زبان دبیر شورای عالی انقلاب فرهنگی

دارویی که تمام نشانگرهای سرطان را از بین برد

بارش بیشتر باران باعث از بین رفتن خشکسالی می‌شود؟

اولین پرواز مداری «استارشیپ» به تعویق افتاد

تصویر وایرال شده از سرباز اوکراینی

اپل، سامسونگ و گوگل متهم به نقض پتنت صدای فضایی

۸۴ دانش‌آموز و ۱۸ معلم تهرانی در دو جنگ اخیر به شهادت رسیدند

تغییر کتاب‌های درسی پایه اول؛ از فارسی تا ریاضی

وزیر آموزش و پرورش: دریافت وجه هنگام ثبت‌نام مدارس دولتی ممنوع است

۱۵۰۷ فضای آموزشی در جنگ دچار آسیب شد

«دلیران» اولین مستندمسابقه برای کودکان است/ پخش از شبکه کودک

انیمیشن ایرانی «سفینه نجات» امیدبخش است

رونمایی از یک صدای گمشده در کنسرت سازهای ایرانی بنیاد رودکی

راویان جنگ رمضان در رادیو صبا تجلیل می‌شوند

نتایج المپیاد علمی دانشجویان علوم پزشکی کشور اعلام شد

فرصت مجدد شرکت در آزمون دکتری تخصصی و پژوهشی علوم پزشکی ۱۴۰۵ فراهم شد

برگزیدگان بیستمین دوره مسابقات ربوکاپ آزاد ایران معرفی شدند

اوپن ای آی هم هک شد

تأکید رئیس دانشگاه تهران و سفیر پاکستان بر تقویت دیپلماسی علمی

ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاه‌ها در مقاطع مختلف

اعلام ۱۰ اولویت پژوهشی برای اتصال ریلی چین به اروپا از مسیر ایران

فراخوان اولویت‌های پژوهشی و فناوری سازمان سنجش آموزش کشور منتشر شد

کلاس‌های دانشگاه‌های غیردولتی غیرانتفاعی حضوری برگزار می‌شود

روایت ۲۰۰ شب استقامت تاریخی در ایران

«انسان و حیوان»؛ گفتگوی کشیشی مسیحی و روحانی مسلمان درباره اخلاق

آیا «الگوریتم‌ها» ما را از نو می سازند!؟ چالش انسان عصر دیجیتال

لیگ‌های صنعتی ربوکاپ از سال آینده راه اندازی می‌شود

عرضه دستاوردهای شرکت‌های دانش‌بنیان در نمایشگاه فناوری‌های پیشرفته چین

تأکید بر پرورش نسلی دانا، اخلاق‌مدار و پاسخگو به نیازهای جامعه

هوش چینی در یک وب سایت دولتی آمریکا

نخستین اختراع کشور در زمینه سلول زیستی خورشیدی

امام حسن عسکری(ع) چگونه شیعه را برای عصر غیبت آماده کرد؟

روایتی از نخستین شاهدان تولد امام زمان(عج)؛ مهمترین اقدام امام عسکری

افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا

مهلت مجدد ثبت‌نام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه

سال تحصیلی دانشگاه‌ها از امروز آغاز شد

تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد

آغاز ثبت‌نام نوزدهمین همایش جامع «انتخاب شریف»

رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه می‌تواند بحران‌ساز باشد

‏یادداشت کمتردیده‌شدهٔ رهبر شهید خطاب به جانبازان حزب‌الله جنایت پیجری

زمان بازگشایی خوابگاه دانشگاه الزهرا (س) اعلام شد

تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵

فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد

محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگ‌های اخیر بازنگری می‌شود

نگرشی نو به حفظ قرآن در مدارس، محور چهارمین همایش ایده‌پردازان قرآنی

وطن‌دوستی در نگاه اسلام فضیلت است یا تعصب؟

تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جان‌فدایان

حضور نمادین کاروان مراسم عروسی سیریک در رزمایش جان‌فدا

‏ حضور مقتدرانه بانوان کلاه‌کج‌ در رزمایش جان‌فدا

حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا

فراخوان ارسال مقالات به همایش اربعین در مکتب امام شهید

خبرنگار آمریکایی: گازوییل در فلوریدا و تگزاس تمام شده است+عکس

براساس قواعد فقهی تنظیم گری فضای مجازی ضروری است

نرخ اجاره‌بهای خوابگاه‌های دانشجویی در سال جدید اعلام شد+عکس

جانفدایان مسلح به شمشیر و کاتانا

دانشگاه مبعوث رستاخیز دانایی در امتداد غیرت ملی

برگزاری صد و نود و ششمین شب شعر طنز «در حلقه رندان»

فانوس دریایی ادبیات کودک؛ ۸۲ سالگی خالق قصه‌های مجید

رمزگشایی از یک مشکل رایج اجتماع؛چرا یکدیگر را به آسانی قضاوت می کنیم؟

ولادت امام حسن عسکری(ع) هیئت کجا برویم؟

فرماندار کالیفرنیا کلید قطع هوش مصنوعی ایجاد می کند

مصر حساب شبکه های اجتماعی کاربران زیر ۱۳ سال را ممنوع کرد

جمینای هم هکر شد

ویرایش جدید کتاب «امین زبان و ادب پارسی» منتشر شد

خاتمِ گمشده را باز بجو ای ایران! که بدان حلقه جهان زیر نگین ما بود

ورود کتاب‌های دیجیتال، پایان عمر کتاب‌های چاپی نیست

مدادهایی که بعد از تمام شدن، سبز می‌شوند

ادبیات پایداری روایتی مویرگی از زندگی است

از علیرضا طبایی «باید به آفتاب بگویم»

چه کسی گفته است قهرمان‌ها فقط در خط مقدم ساخته می‌شوند؟

نوجوان را دستِ کدام کتاب بسپاریم؟

غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل می‌دهد؟

روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا

حمایت از فلسطین باعث حذف رپر مشهور شد

فیلم ۱۰۰ جشنواره ایده‌هاست، روایت فیلمسازان جوان از جنگ در بستر زندگی

نتایج نهایی ۵ آزمون گروه علوم پزشکی منتشر شد

دانشگاه صنعتی امیرکبیر به‌دنبال جذب دانش‌آموزان مستعد کشورهای همسایه

فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد

شناسایی خشکیدگی درختان جنگلی با هوش مصنوعی

تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵

محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگ‌های اخیر بازنگری می‌شود

آزمون عملی علوم ورزشی در ۲۶ حوزه کشور کلید خورد

بیل گیتس: همه دولت های جهان عقب تر از هوش مصنوعی هستند

سیامک صفری: ظرفیت بازگشت به سریال‌های نوستالژیک اضافه می‌شود

سامانه «سادان» برای ارزش‌گذاری دارایی‌های نامشهود راه‌اندازی می‌شود

سال تحصیلی دانشگاه‌ها از امروز آغاز شد

مهلت مجدد ثبت‌نام آزمون کارشناسی ارشد گروه پزشکی ۱۴۰۵ از ۴ مهرماه

حمایت از فلسطین باعث حذف رپر مشهور شد

از علیرضا طبایی «باید به آفتاب بگویم»

آغاز ثبت‌نام نوزدهمین همایش جامع «انتخاب شریف»

بیش از ۱۰۰ میلیارد دقیقه مکالمه و ۸۶ میلیارد پیامک تنها در ۳ ماه

‏یادداشت کمتردیده‌شدهٔ رهبر شهید خطاب به جانبازان حزب‌الله جنایت پیجری

روند پرداخت یارانه‌های تغذیه دانشجویان بدون تغییر ماند

رویدادها و اتفاقات، بحران نیستند؛ نحوه مواجهه می‌تواند بحران‌ساز باشد

افزایش ۶۰ درصدی مشروطی دانشجویان پس از کرونا

معرفی بهترین برنامه‌های تلویزیونی ۲۰۲۶؛ «خلیج بیوه» ۱۴ جایزه امی برد

روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا

ادبیات پایداری روایتی مویرگی از زندگی است

تصویر استاد شفیعی کدکنی روی دیوارنگاره میدان جهاد

نوجوان را دستِ کدام کتاب بسپاریم؟

غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل می‌دهد؟

حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا

فیلم ۱۰۰ جشنواره ایده‌هاست، روایت فیلمسازان جوان از جنگ در بستر زندگی

ورود بیش از ۷۵۰ هزار دانشجوی جدید به دانشگاه‌ها در مقاطع مختلف

تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جان‌فدایان