به گزارش ثریا - در حالی که مدیران شرکتهای فناوری برای سرمایهگذاری در «هوش مصنوعی» از یکدیگر پیشی میگیرند، یک مشکل بزرگ و رو به رشد وجود دارد، هر مدلی که بر روی دادههای وب پس از ظهور «چتجیپیتی»(ChatGPT) در سال ۲۰۲۲ آموزش دیده باشد، در حال جذب دادههای تولید شده توسط «هوش مصنوعی» است. این عمل ممکن است باعث افزایش مشکلات فنی شود و کل این صنعت را تهدید کند.
به نقل از فیوچریسم، «استیون وان-نیکولز»( Steven Vaughn-Nichols) ستوننویس فناوری در مقالهای جدید هشدار میدهد که حتی تلاشها برای جلوگیری از «فروپاشی مدل»(model collapse) نوع دیگری از کابوس است. این پدیده زمانی رخ میدهد که «مدلهای زبانی بزرگ»(LLM) با دادههای مصنوعی و تولید شده توسط «هوش مصنوعی» تغذیه میشوند و در نتیجه از مسیر درست خارج میشوند.
صنعت «هوش مصنوعی» به سمتی پیش رفته است که تمام دادههای آموزشی معتبر موجود یعنی اطلاعاتی که توسط انسانها تولید شده است را استفاده نمیکند. برای حل این مشکل، شرکتهای صنعتی بزرگ مانند گوگل و «اوپن ایآی»(OpenAI) یا «آنتروپیک»(Anthropic) درگیر ابزاری موسوم به «تولید تقویتشده با بازیابی»(RAG) شدهاند. این ابزار شامل اتصال «LLM ها» به اینترنت است تا بتوانند در صورت مواجهه با درخواستهایی که پاسخ آنها در دادههای آموزشیشان نیست، به دنبال اطلاعات بگردند.
این مفهوم در ظاهر بسیار شهودی به نظر میرسد، اما یک مشکل وجود دارد، اینکه اینترنت اکنون پر از محتوای نامعتبر است که از «هوش مصنوعی» برای تولید پاسخ به سوالات رایج استفاده میکند و نتایج آن اغلب خندهدار، بد و نادرست است.
مطالعهای جدید از بخش تحقیقاتی شرکت رسانهای بزرگ «مایکل بلومبرگ»(Michael Bloomberg)، از ۱۱ مدل از جدیدترین «LLM ها» پاسخهای نادرست بسیار بیشتری نسبت به همتایان خود که فاقد ابزار «RAG» بودند، دریافت کرد.
همانطور که این مطالعه بیان میکند: این نگرانیهای ایمنی میتواند شامل محتوای مضر، غیر قانونی، توهینآمیز و غیر اخلاقی مانند انتشار اطلاعات نادرست و به خطر انداختن امنیت و حریم خصوصی کاربر باشد.
«آماندا استنت»(Amanda Stent) سرپرست تحقیقات و استراتژی «هوش مصنوعی» در این شرکت توضیح داد: این یافته غیرمنتظره با توجه به اینکه «RAG» چقدر به طور گسترده در برنامههای «هوش مصنوعی مولد»(generative AI) مانند سامانه پرسش و پاسخ استفاده میشود، پیامدهای گستردهای دارد. کاربر عادی اینترنت روزانه با سامانههای مبتنی بر «RAG» تعامل دارد. متخصصان «هوش مصنوعی» باید در مورد نحوه استفاده مسئولانه از این ابزار با دقت عمل کنند.
«وان-نیکولز» اشاره میکند: برخی افراد پیشنهاد کردهاند که محتوای معتبر و مصنوعی را با هم ترکیب کنند تا یک ترکیب قوی از دادههای آموزشی خوب «هوش مصنوعی» تولید شود، اما این امر مستلزم آن است که انسانها به تولید محتوای واقعی برای دادههای آموزشی ادامه دهند. صنعت «هوش مصنوعی» به طور فعال ساختارهای انگیزشی آنها را برای ادامه کار تضعیف میکند. این مسئله در حالی است که کار آنها را بدون اجازه سرقت هم میکند.
وی افزود: ما بیشتر و بیشتر در «هوش مصنوعی» سرمایهگذاری خواهیم کرد تا جایی که پدیده «فروپاشی مدل» باعث شود پاسخهای این سامانه آنقدر بد شوند که حتی یک مدیر عامل کندذهن هم نتواند آن را نادیده بگیرد.
منبع : هوش مصنوعی
هواپیمای فضایی چین یک شیء مرموز را در مدار رها کرده است
آزمایش موشک «استارشیپ» پیش از پرواز سیزدهم با موفقیت به سرانجام رسید
صنعت هوانوردی اعلام کرد: ضایعات غذایی به سوخت جت تبدیل میشوند
شمارش معکوس تا پرتاب جدیدترین فناوری فضایی «اسپیسایکس» آغاز شد
جدیدترین خبر از وضعیت فاطمه شکری بازیگر پیشکسوت
اکران فیلم استخر سروش صحت به تعویق افتاد
سری جدید انیمیشن «داستان اسباببازی» همه رقبا را کنار زد
پیشنهاد وزیر علوم برای جذب دانشجویان پاکستانی در دانشگاه سیستان و بلوچستان
شرایط پذیرش در آزمون کاردانی به کارشناسی فرهنگیان اعلام شد
فراهم شدن امکان ویرایش حوزه آزمون پذیرش دستیار تخصصی
زیرساختهای فرسوده ناسا دیگر پاسخگوی ماموریتهای «آرتمیس» نیستند
راز کندی تنبلها کشف شد
تأثیر پنهان طعمهای محبوب سیگار الکترونیکی بر قلب را جدی بگیرید
آیا خاطرات را میتوانیم بخوریم؟
عکس روز ناسا از ماراتن مریخ منتشر شد
کاروان دانشآموزی ایران با بهترین شرایط به ژیمنازیاد اعزام شود
دستورالعمل فعالیتهای تابستانی مدارس ابلاغ شد
کلاسهای جبرانی تابستانی دانش آموزان از ۱۵ تیرماه آغاز میشود
راه حل مقابله با مصرف مواد مخدر در محیطهای دانشگاهی
صدور حکم اخراج دانشجوی امیرکبیر به دلیل اهانت به پرچم ایران
حضور ۱۱ دانشگاه ایرانی در رتبه بندی کیواس ۲۰۲۷ ؛ دانشگاه تهران در صدر جدول
قرار بود ششم تیر و روز ترور آخرین روز جمهوری اسلامی باشد
تجلیل از گری اولدمن در جشنواره تلویزیونی بریتانیا
رسالت تداوم نهضت عاشورا و تاریخنگاری زنده سیره تبلیغی امام سجاد(ع)
برگزاری ۵ شب عزاداری در دانشگاه تهران در دهه دوم ماه محرم
نگاهی به وضعیت معنویت انیمیشن کودکان در سه الگوی، دیزنی، پیکسار و جیبلی
پوشش بیش از ۱۰۰۰ رسانه برای مراسم عاشورای کربلای معلی
مصاحبه دوره دکتری دانشگاه آزاد از امروز آغاز میشود
توسعه تعاملات دانشگاههای ایران و کشورهای عضو اکو در دستور کار
ایران به دانش فنی ساخت «مغز مصنوعی» دست یافت
در عصری هستیم که سرعت،فضیلت شده است/بحران معنایی انسان معاصر از کجاست؟
فراخوان کسب دانش فنی ساخت یک قطعه مهم در صنایع حساس و راهبردی
ثبتنام مدارس باید بر اساس محدوده محل سکونت انجام شود
زیارت تبلیغاتی صدام در عتبات/ سقوط یک سناریو توسط اسرای ایرانی
چرا امام حسین (ع) به پا خاست؟
تل زینبیه به روی بانوان زائر کربلا بازگشایی شد
اگر امام را نشناسیم، غربال خواهیم شد
هوش مصنوعی آنتروپیک شکاف در سیستمهای دولت آمریکا را شناسایی کرد
امروز آخرین فرصت ثبت نام در پذیرش کاردانی به کارشناسی ۱۴۰۵
ارسال آییننامه جامع مدیریت دانشگاهها به شورای عالی انقلاب فرهنگی
آغاز پویش «کارت نشاط» برای حمایت از دانشآموزان
آموزش و پرورش: شرایط ثبتنام دانشآموزان اتباع اعلام خواهد شد
نتایج نقل و انتقالات فرهنگیان شنبه اعلام میشود
ابررایانه چینی از رقبای آمریکایی پیشی گرفت
خوابگاههای علوم پزشکی تهران میزبان مهمانان مراسم تشییع پیکر رهبر شهید
برنامه زمانی امتحانات دانشجویان دانشگاه صنعتی امیرکبیر تغییر کرد
حضور وزیر علوم در آیین عاشورای حسینی در زینبیه استانبول
آماده تسهیل فرآیندهای اداری و حمایت از ابتکارات نوآورانه هستیم
ظرفیت ۶۸ هزار نفری پذیرش کاردانی به کارشناسی ۱۴۰۵ اعلام شد؛ ثبتنام تا شنبه ۳۰ خرداد
نقش شهادت در آثار محمدعلی نادری؛ وقتی قلمو با زبان درد سخن میگوید
شرایط بهرهمندی مؤسسات قرآنی از نرخ صفر مالیاتی ابلاغ شد
نگاهی دوباره به ایران از دریچه «باد صبا»؛ میراثی که از دیروز بهجا ماند
پیام تسلیت مدیرعامل مرکز گسترش به مناسبت درگذشت یک مستندساز
شاپور رحیمی خواننده و نوازنده پیشکسوت درگذشت
روایت احساسات در بطن تصاویر؛ محدودیتها مانع ثبت جنایات جنگ شدهاند
تام کروز ۴۶ سال حضورش در سینما را با یک کلیپ یادآوری کرد
حقوق طبیعی امام حسین (ع) در آخرین موعظه ایشان
ماجرای پیشگویی امام علی(ع) درباره کربلا و شهادت امام حسین(ع) چه بود؟
کل خیر فی الحسین؛ بزرگترین خسارت جدایی از حسین (ع) است
اسکار از ۵۲۹ نفر برای عضویت دعوت کرد؛ از نگار اسکندرفر تا جیکوب الوردی
آموزش تدبر در قرآن ویژه کارکنان دولت اجرایی میشود
تابلوی ۶۰۰ ساله تایلندی، سند تاریخی پیشینه آئینهای حسینی
بشارت امام صادق (ع) به پیرمرد ۱۰۰ ساله؛ کلید رستگاری در دنیا و آخرت
انتقاد از یک بازیگر و کمدین برای حضور در مراسم ترامپ؛ با فاشیستها عکس نگیر!
مجموعه کامل فیلمهای استنلی کوبریک در یک بسته خاص عرضه میشود
عاشورا و پیوست فرهنگی ایران؛ از سوگ شیعی تا سرمایه انسجام ملی
تاثیر حرف مردم بر سرنوشت یک دختر؛ ایده «مرجان» از کجا پیدا شد؟
سیره امام حسین(ع) آمیزهای از تدبیر دینی و سیاسی و اخلاق اجتماعی بود
مدارک مورد پذیرش برای آزمون دکتری تخصصی و پژوهشی اعلام شد
دانشگاه آزاد شرایط امتحانات پایانترم دانشجویان ارشد و دکتری در شهر محل سکونت را اعلام کرد
مخاطب از دیدن این سریال تکراری خسته نمیشود؛ جادوی «مختارنامه» چیست؟
مجریان تراز زبان فارسی معرفی شدند؛ پدافند زبانی با اجرا!
این ۳ کارگردان معروف برای تشییع رهبر شهید مستند میسازند
توییت جدید محمدباقر قالیباف با انتشار صحنه سیو بیرانوند+عکس
از گاندی تا کارلایل، همه مرید حسین (ع)
ماشین ثروتاندوزی امویان؛ از باندبازی تا احیای هدایای نوروزی
همانگونه که جسم به روزی مادی نیاز دارد، روح نیز به معرفت محتاج است
آیا ماجرای ازدواج حضرت قاسم (ع) در کربلا صحت دارد؟
«حسینیه بهشت»، پیوند خانههای شهدا با خیمههای عاشورا
مهلت ثبتنام در کاروان قرآنی اعزامی به اربعین تا ۵ تیرماه
مدارک مورد پذیرش برای آزمون دکتری تخصصی و پژوهشی اعلام شد
دانشگاه آزاد شرایط امتحانات پایانترم دانشجویان ارشد و دکتری در شهر محل سکونت را اعلام کرد
چمران هنوز زنده است
مهلت ثبتنام در کاروان قرآنی اعزامی به اربعین تا ۵ تیرماه
همانگونه که جسم به روزی مادی نیاز دارد، روح نیز به معرفت محتاج است
«حسینیه بهشت»، پیوند خانههای شهدا با خیمههای عاشورا
گوشوارههایی که تاریخ فراموششان نکرد
این ۳ کارگردان معروف برای تشییع رهبر شهید مستند میسازند
مخاطب از دیدن این سریال تکراری خسته نمیشود؛ جادوی «مختارنامه» چیست؟
یک فهرست متفاوت از بهترینهای سال ۲۰۲۶ در نیمه راه؛ مستقلها پیشتازند
آیا ماجرای ازدواج حضرت قاسم (ع) در کربلا صحت دارد؟
توییت جدید محمدباقر قالیباف با انتشار صحنه سیو بیرانوند+عکس
ماشین ثروتاندوزی امویان؛ از باندبازی تا احیای هدایای نوروزی
بشارت امام صادق (ع) به پیرمرد ۱۰۰ ساله؛ کلید رستگاری در دنیا و آخرت
امروز آخرین فرصت ثبت نام در پذیرش کاردانی به کارشناسی ۱۴۰۵
برنامه زمانی امتحانات دانشجویان دانشگاه صنعتی امیرکبیر تغییر کرد
مجریان تراز زبان فارسی معرفی شدند؛ پدافند زبانی با اجرا!
تاثیر حرف مردم بر سرنوشت یک دختر؛ ایده «مرجان» از کجا پیدا شد؟
خوابگاههای علوم پزشکی تهران میزبان مهمانان مراسم تشییع پیکر رهبر شهید
ارسال آییننامه جامع مدیریت دانشگاهها به شورای عالی انقلاب فرهنگی
عکس | جایزه بهترین بازیکن دیدار در دستان علی بیرو
آماده تسهیل فرآیندهای اداری و حمایت از ابتکارات نوآورانه هستیم
تابلوی ۶۰۰ ساله تایلندی، سند تاریخی پیشینه آئینهای حسینی
مجموعه کامل فیلمهای استنلی کوبریک در یک بسته خاص عرضه میشود
نقش شهادت در آثار محمدعلی نادری؛ وقتی قلمو با زبان درد سخن میگوید
ظرفیت ۶۸ هزار نفری پذیرش کاردانی به کارشناسی ۱۴۰۵ اعلام شد؛ ثبتنام تا شنبه ۳۰ خرداد
از گاندی تا کارلایل، همه مرید حسین (ع)
حضور وزیر علوم در آیین عاشورای حسینی در زینبیه استانبول
آموزش تدبر در قرآن ویژه کارکنان دولت اجرایی میشود
انتقاد از یک بازیگر و کمدین برای حضور در مراسم ترامپ؛ با فاشیستها عکس نگیر!
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.