کد خبر: 169587
ف
توکن‌سازی، قلب تپنده مدل‌های هوشمند تحلیل سری‌های زمانی
تیم پژوهشی دانشکدگان علوم دانشگاه تهران، به نتایج پیشرو در طبقه‌بندی سری‌های زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکن‌سازی» دست یافت.

به گزارش ثریا - در پی دستیابی تیم پژوهشی دانشکدگان علوم، متشکل از باقر باباعلی، دانشیار دانشکده ریاضی، آمار و علوم کامپیوتر و محمدمهدی عزیزی، دانشجوی دکترای علوم کامپیوتر دانشکدگان علوم، به نتایج پیشرو در طبقه‌بندی سری‌های زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکن‌سازی» باباعلی، سرپرست تیم، ابعاد نظری و عملی این دستاورد را تشریح کرد.

وی در تحلیل یافته‌های پژوهشی جدید با عنوان «توجه به توکن‌سازی» گفت: موفقیت مدل‌های مبتنی بر توجه در حوزه‌های پیچیده‌ای مانند تشخیص پزشکی و پیش‌بینی مالی، بیش از هر چیز وابسته به شیوه هوشمندانه قطعه‌بندی و درک معنای داده‌های زمانی است.

وی این فرآیند را کلید غلبه بر چالش تنوع گسترده در دنیای سری‌های زمانی دانست و با اشاره به چالش اصلی این حوزه گفت: تنوع بی‌نظیر در ماهیت، نویز، مقیاس و فرکانس داده‌های سری زمانی، رؤیای ساخت یک مدل پایه جهانی را به یکی از مسائل دشوار هوش مصنوعی تبدیل کرده بود. پژوهش حاضر با بازتعریف چارچوب میکسر ماتریسی به عنوان یک جعبه ابزار، گامی ساختاریافته به سوی این هدف برداشته است.

وی در توضیح اهمیت یافته «توجه به توکن‌سازی» افزود: نتایج به وضوح نشان می‌دهد که صرف استفاده از یک معماری قدرتمند مانند ترنسفورمر کافی نیست. «توکن‌سازی» مرحله تبدیل داده خام به زبانی است که مدل می‌فهمد. اگر این ترجمه ناقص یا نادرست انجام شود، مدل هر چقدر هم قوی باشد، بر روی داده‌های اشتباه آموزش دیده است. تمرکز این تحقیق بر بهینه‌سازی دقیق این مرحله، یعنی «تعبیه قطعات» یا Patch Embedding، دلیل اصلی ارتقای چشمگیر دقت مدل‌هاست.

این استاد دانشگاه در مقایسه روش‌های ادغام اطلاعات زمانی اظهار داشت: مکانیزم توجه (Attention) به مدل این توانایی را می‌دهد که به صورت پویا، روابط بلندمدت و کوتاه‌مدت بین همه قطعات داده را کشف و وزن دهد. این برتری کیفی نسبت به روش‌هایی مانند MLP-Mixer که صرفاً ترکیبی خطی انجام می‌دهند، به خصوص در داده‌های پیچیده‌ای مانند سیگنال‌های مغزی که وابستگی‌های زمانی ظریفی دارند، کاملاً حیاتی و تعیین‌کننده است.

باباعلی در پاسخ به سؤالی درباره آینده این پژوهش‌ها گفت: مسیر پیش‌رو، حرکت به سمت «توکن‌سازی تطبیقی» و «هوشمند» است. آیا می‌توانیم به مدل بیاموزیم که خودش بهترین روش برای قطعه‌بندی داده را بیابد؟ این یک سوال پژوهشی عمیق در تقاطع یادگیری ماشین و پردازش سیگنال است. دستیابی به آن، انقلابی در تحلیل داده‌های زیستی و صنعتی ایجاد خواهد کرد.

وی در پایان با اشاره به نتایج عددی تحقیق خاطرنشان کرد: دستیابی به دقت متوسط ۸۶ درصد در حالت خودنظارتی روی بنچ‌مارک‌های معتبر، تنها یک عدد نیست. این رقم نشان می‌دهد که مدل توانسته است بدون نیاز به برچسب‌های پر هزینه، مفاهیم نهفته در داده‌های زمانی را به خوبی بیاموزد. این ویژگی، گنجینه‌ای برای کاربردهای واقعی در شرایطی است که داده‌های برچسب‌دار محدود هستند.

به گزارش روابط عمومی دانشگاه تهران، به نظر می‌رسد با تلفیق بینش‌های عمیق آماری و علوم داده با معماری‌های نوین یادگیری عمیق، افق‌های تازه‌ای برای هوشمندسازی تحلیل داده‌های پیوسته در حال گشوده شدن است.

برای کسب اطلاعات بیشتر اینجا کلیک کنید.

منبع : توکن سازی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

تمدید مهلت انتخاب رشته پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵

فرصت مجدد ثبت نام در پذیرش بدون آزمون کاردانی مهارتی ۱۴۰۵ فراهم شد

محتوای دروس معارف دانشگاهی براساس تحولات روز و جنگ‌های اخیر بازنگری می‌شود

نگرشی نو به حفظ قرآن در مدارس، محور چهارمین همایش ایده‌پردازان قرآنی

وطن‌دوستی در نگاه اسلام فضیلت است یا تعصب؟

تصویری از رهبر شهید در مراسم ۳۱۳ هزار نفری جان‌فدایان

حضور نمادین کاروان مراسم عروسی سیریک در رزمایش جان‌فدا

‏ حضور مقتدرانه بانوان کلاه‌کج‌ در رزمایش جان‌فدا

حضور خاخام اعظم جامعه یهودیان ایران در مراسم جان فدا

فراخوان ارسال مقالات به همایش اربعین در مکتب امام شهید

خبرنگار آمریکایی: گازوییل در فلوریدا و تگزاس تمام شده است+عکس

براساس قواعد فقهی تنظیم گری فضای مجازی ضروری است

نرخ اجاره‌بهای خوابگاه‌های دانشجویی در سال جدید اعلام شد+عکس

جانفدایان مسلح به شمشیر و کاتانا

دانشگاه مبعوث رستاخیز دانایی در امتداد غیرت ملی

مدادهایی که بعد از تمام شدن، سبز می‌شوند

ادبیات پایداری روایتی مویرگی از زندگی است

از علیرضا طبایی «باید به آفتاب بگویم»

چه کسی گفته است قهرمان‌ها فقط در خط مقدم ساخته می‌شوند؟

نوجوان را دستِ کدام کتاب بسپاریم؟

غذا چگونه جایگاه اجتماعی و منزلت افراد را شکل می‌دهد؟

روایت رادیو تهران از دفاع مقدس؛ از مادران جنگ تا بدرقه فرزندان شهدا

حمایت از فلسطین باعث حذف رپر مشهور شد

فیلم ۱۰۰ جشنواره ایده‌هاست، روایت فیلمسازان جوان از جنگ در بستر زندگی

معرفی بهترین برنامه‌های تلویزیونی ۲۰۲۶؛ «خلیج بیوه» ۱۴ جایزه امی برد

سیامک صفری: ظرفیت بازگشت به سریال‌های نوستالژیک اضافه می‌شود

سامانه «سادان» برای ارزش‌گذاری دارایی‌های نامشهود راه‌اندازی می‌شود

آزمون عملی علوم ورزشی در ۲۶ حوزه کشور کلید خورد

بیش از ۱۰۰ میلیارد دقیقه مکالمه و ۸۶ میلیارد پیامک تنها در ۳ ماه

شناسایی خشکیدگی درختان جنگلی با هوش مصنوعی

روند پرداخت یارانه‌های تغذیه دانشجویان بدون تغییر ماند

بیل گیتس: همه دولت های جهان عقب تر از هوش مصنوعی هستند

نتایج نهایی ۵ آزمون گروه علوم پزشکی منتشر شد

دانشگاه صنعتی امیرکبیر به‌دنبال جذب دانش‌آموزان مستعد کشورهای همسایه

شبکه شعب خودرو۴۵ به ۷۸ شعبه رسید

هلیا امامی: دوست داشتم از کلیشه دختر مثبت فاصله بگیرم

لباس مدرسه فقط فرم نیست، کودک باید آن را دوست داشته باشد

به مناسبت روز سینما: روزی که دوربین شهید آوینی روایتگر جنگ شد

کتاب عروس بی نشان ها: قرار بود یک عمر کنار هم باشند، اما جنگ مهلتشان نداد

حق کودک بر حریم خصوصی؛ چالشی برای فرهنگ دیجیتال ایران

نشر در لهستان؛ انتشار بیش از ۳۱هزار عنوان کتاب در سال ۲۰۲۵

نشان درجه یک هنری به این کارگردان اهدا شد: علیرضا داوودنژاد بدترین فیلمش هم «سینما» است

افزایش پذیرش دانشجو معلم تا سه برابر ظرفیت

۹۵ درصد مدارس کشور آماده بازگشایی هستند

ارزیابی سالانه یک میلیون و ۲۰۰ هزار نوآموز در برنامه سنجش

مهلت ثبت نام پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵ تمدید شد

تمدید مهلت ثبت نام پذیرش بدون آزمون کاردانی ویژه مهارتی سال ۱۴۰۵

پایان نخستین دوره پسادکتری علوم ورزشی امیرکبیر با محوریت هوش مصنوعی

بزرگ‌ترین رقابت دانش‌آموزی در حوزه کوانتوم و لیزر برگزار شد

شرکت انگلیسی داده‌های مشتریانش را به هکرها داد

مهلت انتخاب رشته آزمون دستیاری پزشکی مجدد تمدید شد

حمله ایران معماری هوش مصنوعی امارات را تغییر داد؛ فرار داده‌ها به کوه

چالش‌های مصوبه اخیر «ستاد ویژه ساماندهی فضای مجازی» از منظر حقوقی

مدیران ارشد هوش مصنوعی خواستار کندتر شدن پیشرفت آن شدند

قالیباف قانون ملی توسعه هوش مصنوعی را ابلاغ کرد

سهمیه ویژه کنکور برای آسیب‌دیدگان جنگ نیازمند بازنگری است

پارادوکس رفاه و رضایت؛ چرا مدرنیته ما را شادتر نکرد؟

پیوند عرفان کلاسیک با زیست انسان معاصر در شرح فتوحات مکیه باب ۵۶۰

عالمی که علم و مبارزه را به سنگر امامت جمعه پیوند زد

نظریات و رویکردهای اسلامی در خصوص مددکاری اجتماعی

نسل امروز بی اراده‌تر از نسل قبل است؟

از تربت ۱۷ کیلویی تا یک میلیون سند تاریخی، جلوه‌ای از حرم بانوی کرامت

حجت‌الاسلام قمی: مردم نمی‌گذارند قیمت پایان جنگ، فروختن عزت ایران باشد

جزئیات برگزاری بیستمین آزمون سراسری قرآن و عترت

خیابان و زندگی؛ واکاوی نقش زنان در پایداری اجتماعات شبانه

«دهکده سلامت» یادگار یک خیر بزرگ برای بیماران صعب العلاج

چرا عرفان‌های نوپدید برای جوان امروز جذاب‌اند؟

نگاهی به سریال «دیوار دفاعی»؛ ملی شدن صنعت نفت با چاشنی فوتبال

شعری از نظامی گنجوی موضوع یک انیمیشن کوتاه شد

دیوارنگاره میدان ولیعصر (عج) موقتا تغییر نمی‌کند؛ آغاز ایمن‌سازی

«اسکورت» بر صدر فروش روزانه نشست؛ استقبال از آزادی زنان زندانی

حسین علیزاده مهمان «هم‌کلام» می‌شود

بازی «بوم‌بوم» با حضور خانواده شهید طهرانی‌مقدم رونمایی شد

«ململ» مهمان نمایشگاه ایران نوشت شد

محرابی که منافقین را به وحشت انداخت؛ چرا مدنی باید ترور می‌شد؟

اپل به جمع تولید کنندگان موبایل تاشو پیوست

رئیس دانشگاه تهران: برای مقابله با تحریم‌های علمی برنامه‌ریزی می‌کنیم

روحانیِ پیونددهنده دین و آزادی

توصیه پذیرفته شدگان تیزهوشان، کدام آموزشگاه است؟!

برگزیدگان ‌بیستمین جشنواره ملی شیخ بهایی معرفی و تقدیر شدند

سهمیه ویژه کنکور برای آسیب‌دیدگان جنگ نیازمند بازنگری است

مهلت انتخاب رشته آزمون دستیاری پزشکی مجدد تمدید شد

تمدید مهلت ثبت نام پذیرش بدون آزمون کاردانی ویژه مهارتی سال ۱۴۰۵

نتایج نهایی ۵ آزمون گروه علوم پزشکی منتشر شد

مهلت ثبت نام پذیرش بدون آزمون کاردانی به کارشناسی ۱۴۰۵ تمدید شد

افزایش پذیرش دانشجو معلم تا سه برابر ظرفیت

پایان نخستین دوره پسادکتری علوم ورزشی امیرکبیر با محوریت هوش مصنوعی

دانشگاه صنعتی امیرکبیر به‌دنبال جذب دانش‌آموزان مستعد کشورهای همسایه

نشان درجه یک هنری به این کارگردان اهدا شد: علیرضا داوودنژاد بدترین فیلمش هم «سینما» است

بزرگ‌ترین رقابت دانش‌آموزی در حوزه کوانتوم و لیزر برگزار شد

مدیران ارشد هوش مصنوعی خواستار کندتر شدن پیشرفت آن شدند

چالش‌های مصوبه اخیر «ستاد ویژه ساماندهی فضای مجازی» از منظر حقوقی

شرکت انگلیسی داده‌های مشتریانش را به هکرها داد

هلیا امامی: دوست داشتم از کلیشه دختر مثبت فاصله بگیرم

قالیباف قانون ملی توسعه هوش مصنوعی را ابلاغ کرد

به مناسبت روز سینما: روزی که دوربین شهید آوینی روایتگر جنگ شد

نشر در لهستان؛ انتشار بیش از ۳۱هزار عنوان کتاب در سال ۲۰۲۵

از تربت ۱۷ کیلویی تا یک میلیون سند تاریخی، جلوه‌ای از حرم بانوی کرامت

شبکه شعب خودرو۴۵ به ۷۸ شعبه رسید

حمله ایران معماری هوش مصنوعی امارات را تغییر داد؛ فرار داده‌ها به کوه

حق کودک بر حریم خصوصی؛ چالشی برای فرهنگ دیجیتال ایران

«دهکده سلامت» یادگار یک خیر بزرگ برای بیماران صعب العلاج

نگاهی به سریال «دیوار دفاعی»؛ ملی شدن صنعت نفت با چاشنی فوتبال

ارزیابی سالانه یک میلیون و ۲۰۰ هزار نوآموز در برنامه سنجش

نسل امروز بی اراده‌تر از نسل قبل است؟

شعری از نظامی گنجوی موضوع یک انیمیشن کوتاه شد

۹۵ درصد مدارس کشور آماده بازگشایی هستند

شناسایی خشکیدگی درختان جنگلی با هوش مصنوعی

پیوند عرفان کلاسیک با زیست انسان معاصر در شرح فتوحات مکیه باب ۵۶۰

نظریات و رویکردهای اسلامی در خصوص مددکاری اجتماعی