کد خبر: 169587
ف
توکن‌سازی، قلب تپنده مدل‌های هوشمند تحلیل سری‌های زمانی
تیم پژوهشی دانشکدگان علوم دانشگاه تهران، به نتایج پیشرو در طبقه‌بندی سری‌های زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکن‌سازی» دست یافت.

به گزارش ثریا - در پی دستیابی تیم پژوهشی دانشکدگان علوم، متشکل از باقر باباعلی، دانشیار دانشکده ریاضی، آمار و علوم کامپیوتر و محمدمهدی عزیزی، دانشجوی دکترای علوم کامپیوتر دانشکدگان علوم، به نتایج پیشرو در طبقه‌بندی سری‌های زمانی با تمرکز بر معماری «میکسر ماتریسی» و روش «توکن‌سازی» باباعلی، سرپرست تیم، ابعاد نظری و عملی این دستاورد را تشریح کرد.

وی در تحلیل یافته‌های پژوهشی جدید با عنوان «توجه به توکن‌سازی» گفت: موفقیت مدل‌های مبتنی بر توجه در حوزه‌های پیچیده‌ای مانند تشخیص پزشکی و پیش‌بینی مالی، بیش از هر چیز وابسته به شیوه هوشمندانه قطعه‌بندی و درک معنای داده‌های زمانی است.

وی این فرآیند را کلید غلبه بر چالش تنوع گسترده در دنیای سری‌های زمانی دانست و با اشاره به چالش اصلی این حوزه گفت: تنوع بی‌نظیر در ماهیت، نویز، مقیاس و فرکانس داده‌های سری زمانی، رؤیای ساخت یک مدل پایه جهانی را به یکی از مسائل دشوار هوش مصنوعی تبدیل کرده بود. پژوهش حاضر با بازتعریف چارچوب میکسر ماتریسی به عنوان یک جعبه ابزار، گامی ساختاریافته به سوی این هدف برداشته است.

وی در توضیح اهمیت یافته «توجه به توکن‌سازی» افزود: نتایج به وضوح نشان می‌دهد که صرف استفاده از یک معماری قدرتمند مانند ترنسفورمر کافی نیست. «توکن‌سازی» مرحله تبدیل داده خام به زبانی است که مدل می‌فهمد. اگر این ترجمه ناقص یا نادرست انجام شود، مدل هر چقدر هم قوی باشد، بر روی داده‌های اشتباه آموزش دیده است. تمرکز این تحقیق بر بهینه‌سازی دقیق این مرحله، یعنی «تعبیه قطعات» یا Patch Embedding، دلیل اصلی ارتقای چشمگیر دقت مدل‌هاست.

این استاد دانشگاه در مقایسه روش‌های ادغام اطلاعات زمانی اظهار داشت: مکانیزم توجه (Attention) به مدل این توانایی را می‌دهد که به صورت پویا، روابط بلندمدت و کوتاه‌مدت بین همه قطعات داده را کشف و وزن دهد. این برتری کیفی نسبت به روش‌هایی مانند MLP-Mixer که صرفاً ترکیبی خطی انجام می‌دهند، به خصوص در داده‌های پیچیده‌ای مانند سیگنال‌های مغزی که وابستگی‌های زمانی ظریفی دارند، کاملاً حیاتی و تعیین‌کننده است.

باباعلی در پاسخ به سؤالی درباره آینده این پژوهش‌ها گفت: مسیر پیش‌رو، حرکت به سمت «توکن‌سازی تطبیقی» و «هوشمند» است. آیا می‌توانیم به مدل بیاموزیم که خودش بهترین روش برای قطعه‌بندی داده را بیابد؟ این یک سوال پژوهشی عمیق در تقاطع یادگیری ماشین و پردازش سیگنال است. دستیابی به آن، انقلابی در تحلیل داده‌های زیستی و صنعتی ایجاد خواهد کرد.

وی در پایان با اشاره به نتایج عددی تحقیق خاطرنشان کرد: دستیابی به دقت متوسط ۸۶ درصد در حالت خودنظارتی روی بنچ‌مارک‌های معتبر، تنها یک عدد نیست. این رقم نشان می‌دهد که مدل توانسته است بدون نیاز به برچسب‌های پر هزینه، مفاهیم نهفته در داده‌های زمانی را به خوبی بیاموزد. این ویژگی، گنجینه‌ای برای کاربردهای واقعی در شرایطی است که داده‌های برچسب‌دار محدود هستند.

به گزارش روابط عمومی دانشگاه تهران، به نظر می‌رسد با تلفیق بینش‌های عمیق آماری و علوم داده با معماری‌های نوین یادگیری عمیق، افق‌های تازه‌ای برای هوشمندسازی تحلیل داده‌های پیوسته در حال گشوده شدن است.

برای کسب اطلاعات بیشتر اینجا کلیک کنید.

منبع : توکن سازی


مرتبط ها
ارسال نظر
chapta
حداکثر تعداد کاراکتر نظر 200 ميياشد .
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.

جدایی متا از شریک چینی جنجالی کلید خورد

احتمال اعمال محدودیت دوباره بر اینترنت بین‌الملل وجود دارد؟

خدمات ابری گوگل در هند مختل شد

اقدامات حرم حضرت ابوالفضل العباس(ع) برای استقبال از ماه محرم

رویکردی اجتهادی بر جایگاه مردم در حکمرانی از منظر فقه شیعه در کتاب «فقه، مردم و حکمرانی»

واکاوی در مسئله عرفان و سلامت معنوی کودکان در یک نشست

نتیجه نهایی گفتگوی پیامبر با مسیحیان نجران پس از ماجرای مباهله چه شد؟

افتتاح سردخانه دومداره آمونیاکی شهر اهر با حضور حجت الاسلام خاموشی

هشدار قالیباف به ترامپ و دیگر رهبران جهان+عکس

حجت‌الاسلام قمی: زبان در وصف شما مردم مبعوث شده قاصر است

طرح روضه‌های خانگی سدره به مناسبت ماه محرم آغاز به کار کرد

نیاز داریم که همگی نسبت به معضلات و نیازها احساس مسئولیت کنیم

جزئیات جدید اعمال سوابق تحصیلی در کنکور سراسری ۱۴۰۵ را اینجا بخوانید

به کارگیری هوش مصنوعی جمینای در کروم به غرب آسیا رسید

زیرساخت حقیقی این سرزمین، تمدن کهن، فرهنگ و هنر ماندگارش است

تعیین سقف افزایش شهریه دانشگاه‌های غیردولتی بر اساس نرخ تورم

از خرید کابل برق چه می‌دانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید

اقتدار دفاعی ایران، ایده‌ای نو در بازی‌های رومیزی

۳۵ ثانیه، ۷۲۰ هزار گلوله در لامرد/ جنایتی که روایت نشد

آئین اختتامیه روایت علوی برگزار شد

بازی‌های تیم ملی فوتبال ایران در سینماها پخش می‌شود

معرفی چهار آلبوم موسیقی تازه وارد در فضای مجازی

روایت جواد موگویی از یک جنایت جنگی: حادثه لامرد در سایه روایت‌های اشتباه رسانه‌ای گم شد

جزئیات برنامه‌های محرمی اوقاف در قالب طرح سوگواره بصیرت عاشورایی اعلام شد

دقت در نسبت با خاستگاه علوم انسانی بسیار مهم است

پویش «ایران در پناه قرآن» تا پایان خرداد تمدید شد

برگزاری نمایشگاه معماری حرمین شریفین در مکه مکرمه

حمایت آیت الله رشاد از بازسازی و ساخت مجدد کنیسه آسیب دیده در جنگ

آیا در جنگ هرکاری مجاز است؟ نگاهی به اخلاق در میدان نبرد

تأثیر سوابق پایه یازدهم در کنکور ۱۴۰۵ مثبت شد / ۶ درس نهایی برای کنکور

راز حذف زمینه‌های فلسفی «یوگا» در نسخه مدرن

آذین‌بندی و شادی‌های عمومی باید به عنوان مدخل معرفت باشد

فرایند محدودیت در اینترنت شفاف می‌شود؛ ماجرای اینترنت پرو و خط سفید چه بود؟

۷۸ درصد ترافیک اینترنت به حالت قبل و اول دی ماه بازگشت

آغاز ثبت نام آزمون کاردانی به کارشناسی از ۲۴ خرداد ماه

مصوبه افزایش حقوق اعضای هیئت علمی لغو نشده است

تداوم فعالیت علمی دانشگاه شهید بهشتی با وجود آسیب در جنگ

ضیافت نور در آسمان خرداد؛ دیدار دو سیاره منظومه شمسی در آسمان ایران

نسخه جدید چت‌جی‌پی‌تی؛ از تولید عکس تا رزرو سفر در یک پنجره

مهلت دفاع از پایان نامه دستیاران پزشکی تا پایان آذر ۱۴۰۵ تمدید شد

حضوری شدن برخی امتحانات دانشگاه علم و صنعت در مقطع کارشناسی

ایران در جمع ۶ کشور دارای توان ساخت تجهیزات پیشرفته کرایوژنیک

چرا نقش استادان دانشگاه فراتر از کلاس درس است؟

انویدیا با غول‌های فناوری کره جنوبی قرارداد بست

هوش مصنوعی زلزله یاب شد

ثبت‌نام خودکار ۸۵ درصد دانش‌آموزان ابتدایی در استان سمنان

فعالیت ۳۷ هزار سفیر سلامت دانش‌آموزی

هفته بین‌المللی قرآن در کربلا افتتاح شد

چرا روابط فیلم «تهران کنارت» در سطح ماند؟

ولایت فقیه یک هویت تمدنی و تاریخی برای ملت ایران است

تأکید رئیس جهاددانشگاهی بر رفع موانع دیوان‌سالاری و بازگشت به شورای عالی انقلاب فرهنگی

دبیر شورای عالی انقلاب فرهنگی: دستورات لازم برای حضور فعال‌تر جهاد دانشگاهی صادر می‌شود

دومین فراخوان تربیت مجاهد فرهنگی توسط نهاد نمایندگی رهبری در دانشگاه‌ها

دستگاه‌های اجرایی ملزم به استفاده از پیام‌رسان‌های بومی شدند

طرح جدید دانشکده مدیریت شریف برای جذب دانشجوی دکتری با مزایای بی‌نظیر

پیش ‌ثبت‌نام الکامپ ۲۹ آغاز شد

امکان ادامه تحصیل مجدد در پزشکی، دندانپزشکی و داروسازی برای دانش‌آموختگان فراهم شد

اجماع شورای عالی انقلاب فرهنگی بر تأثیر قطعی سوابق تحصیلی یازدهم و دوازدهم در کنکور ۱۴۰۵

جزئیات احکام انضباطی دانشجویان در ایمیل معاون دانشجویی دانشگاه شریف به اساتید

امتحانات دانشگاه علمی کاربردی غیرحضوری شد

امام در اصول فقه به «عرف عقلایی» اهمیت می‌داد

خبرنگاران ایرانی از دریافت ویزا برای پوشش جام جهانی محروم شدند

موقوفات چطور به حل مشکلات اقتصادی ورود کرده‌اند؟

زندگی امام موسی کاظم (ع) تابلویی تمام‌عیار از مدیریت بحران و کادرسازی دینی است

بازیگر معروف ایرانی نقش ترامپ را بازی می‌کند+عکس

بیوک میرزایی: محبت مردم بزرگ‌ترین سرمایه یک هنرمند است

متن جدید امیرحسین قیاسی در حمایت از ایران و در واکنش به جنگ

آیت‌الله مبلغی: نخستین ثمره استقامت، گشایش راه‌ها و شکستن بن‌بست‌هاست

ثبت نام ۲ هزار هیئت جدید در سامانه عطر سیب/ رویکرد نمایشگاه امسال خانواده محور است

خدمت‌رسانی موکب ها به زائران عید غدیر در نجف اشرف

روایتی از بزرگ‌ترین وقف درمانی تهران در کتاب «میراث فرمانفرما»

آخرین حضور و غیاب کودکان شهید میناب با حضور پرویز پرستویی

بازیگر معروف فیلم پدرخوانده ترامپ را ظالم و فاسد خواند

روایت الگوی خانواده موفق در «زندگی زیباست» رادیو معارف

آنچه سیاه‌چال‌های عباسی درباره امام کاظم(ع) پنهان نکردند

چرا روایت ماکان نصیری از صدها گزارش خبری اثرگذارتر شد؟

کتاب صمود روایتی از دردی که از دور فهمیده نمی‌شود

امکان ارسال مستقیم جستجو به هوش مصنوعی در گوگل فراهم می‌شود

ترس اروپا از خاموشی دیجیتال شدت گرفت

قائم مقام دبیر شورای عالی انقلاب فرهنگی منصوب شد

امکان ادامه تحصیل مجدد در پزشکی، دندانپزشکی و داروسازی برای دانش‌آموختگان فراهم شد

طرح جدید دانشکده مدیریت شریف برای جذب دانشجوی دکتری با مزایای بی‌نظیر

دبیر شورای عالی انقلاب فرهنگی: دستورات لازم برای حضور فعال‌تر جهاد دانشگاهی صادر می‌شود

دومین فراخوان تربیت مجاهد فرهنگی توسط نهاد نمایندگی رهبری در دانشگاه‌ها

بیوک میرزایی: محبت مردم بزرگ‌ترین سرمایه یک هنرمند است

حمایت جدی دانشگاه آزاد از دانشجویان دکتری؛ دستورالعمل پژوهشی نیمسال ۱۴۰۴۲ آمد

کتاب صمود روایتی از دردی که از دور فهمیده نمی‌شود

هوش مصنوعی افکار رئیس جمهور چین را ترویج می‌کند

ترس اروپا از خاموشی دیجیتال شدت گرفت

امکان ارسال مستقیم جستجو به هوش مصنوعی در گوگل فراهم می‌شود

امتحانات دانشگاه علمی کاربردی غیرحضوری شد

مساله وطن در صدای علیرضا قربانی و نجابتِ اندوه در آهنگ جدید او

بازیگر معروف ایرانی نقش ترامپ را بازی می‌کند+عکس

انویدیا با غول‌های فناوری کره جنوبی قرارداد بست

بزرگ‌ترین وداع قرن برای امام امت/ بدرقه‌ای به وسعت ایران

خط فارسی، مرجعیت علمی ایران را منطقه‌ای می‌کند

چرا روایت ماکان نصیری از صدها گزارش خبری اثرگذارتر شد؟

موقوفات چطور به حل مشکلات اقتصادی ورود کرده‌اند؟

امام در اصول فقه به «عرف عقلایی» اهمیت می‌داد

شورای عالی انقلاب فرهنگی: تغییری در تأثیر قطعی معدل کنکور امسال نداریم

قائم مقام دبیر شورای عالی انقلاب فرهنگی منصوب شد

اجماع شورای عالی انقلاب فرهنگی بر تأثیر قطعی سوابق تحصیلی یازدهم و دوازدهم در کنکور ۱۴۰۵

آغاز ثبت نام آزمون کاردانی به کارشناسی از ۲۴ خرداد ماه

رویکرد تحولی سمپاد از تربیت دانش‌آموز موفق به سوی پرورش انسان اثرگذار

تأکید رئیس جهاددانشگاهی بر رفع موانع دیوان‌سالاری و بازگشت به شورای عالی انقلاب فرهنگی

مصوبه افزایش حقوق اعضای هیئت علمی لغو نشده است

اقتباسی عروسکی از رمان «اسب جنگی» به روی صحنه رفت

خبرنگاران ایرانی از دریافت ویزا برای پوشش جام جهانی محروم شدند

روایت الگوی خانواده موفق در «زندگی زیباست» رادیو معارف

متن جدید امیرحسین قیاسی در حمایت از ایران و در واکنش به جنگ