به گزارش ثریا - در حالی که مدیران شرکتهای فناوری برای سرمایهگذاری در «هوش مصنوعی» از یکدیگر پیشی میگیرند، یک مشکل بزرگ و رو به رشد وجود دارد، هر مدلی که بر روی دادههای وب پس از ظهور «چتجیپیتی»(ChatGPT) در سال ۲۰۲۲ آموزش دیده باشد، در حال جذب دادههای تولید شده توسط «هوش مصنوعی» است. این عمل ممکن است باعث افزایش مشکلات فنی شود و کل این صنعت را تهدید کند.
به نقل از فیوچریسم، «استیون وان-نیکولز»( Steven Vaughn-Nichols) ستوننویس فناوری در مقالهای جدید هشدار میدهد که حتی تلاشها برای جلوگیری از «فروپاشی مدل»(model collapse) نوع دیگری از کابوس است. این پدیده زمانی رخ میدهد که «مدلهای زبانی بزرگ»(LLM) با دادههای مصنوعی و تولید شده توسط «هوش مصنوعی» تغذیه میشوند و در نتیجه از مسیر درست خارج میشوند.
صنعت «هوش مصنوعی» به سمتی پیش رفته است که تمام دادههای آموزشی معتبر موجود یعنی اطلاعاتی که توسط انسانها تولید شده است را استفاده نمیکند. برای حل این مشکل، شرکتهای صنعتی بزرگ مانند گوگل و «اوپن ایآی»(OpenAI) یا «آنتروپیک»(Anthropic) درگیر ابزاری موسوم به «تولید تقویتشده با بازیابی»(RAG) شدهاند. این ابزار شامل اتصال «LLM ها» به اینترنت است تا بتوانند در صورت مواجهه با درخواستهایی که پاسخ آنها در دادههای آموزشیشان نیست، به دنبال اطلاعات بگردند.
این مفهوم در ظاهر بسیار شهودی به نظر میرسد، اما یک مشکل وجود دارد، اینکه اینترنت اکنون پر از محتوای نامعتبر است که از «هوش مصنوعی» برای تولید پاسخ به سوالات رایج استفاده میکند و نتایج آن اغلب خندهدار، بد و نادرست است.
مطالعهای جدید از بخش تحقیقاتی شرکت رسانهای بزرگ «مایکل بلومبرگ»(Michael Bloomberg)، از ۱۱ مدل از جدیدترین «LLM ها» پاسخهای نادرست بسیار بیشتری نسبت به همتایان خود که فاقد ابزار «RAG» بودند، دریافت کرد.
همانطور که این مطالعه بیان میکند: این نگرانیهای ایمنی میتواند شامل محتوای مضر، غیر قانونی، توهینآمیز و غیر اخلاقی مانند انتشار اطلاعات نادرست و به خطر انداختن امنیت و حریم خصوصی کاربر باشد.
«آماندا استنت»(Amanda Stent) سرپرست تحقیقات و استراتژی «هوش مصنوعی» در این شرکت توضیح داد: این یافته غیرمنتظره با توجه به اینکه «RAG» چقدر به طور گسترده در برنامههای «هوش مصنوعی مولد»(generative AI) مانند سامانه پرسش و پاسخ استفاده میشود، پیامدهای گستردهای دارد. کاربر عادی اینترنت روزانه با سامانههای مبتنی بر «RAG» تعامل دارد. متخصصان «هوش مصنوعی» باید در مورد نحوه استفاده مسئولانه از این ابزار با دقت عمل کنند.
«وان-نیکولز» اشاره میکند: برخی افراد پیشنهاد کردهاند که محتوای معتبر و مصنوعی را با هم ترکیب کنند تا یک ترکیب قوی از دادههای آموزشی خوب «هوش مصنوعی» تولید شود، اما این امر مستلزم آن است که انسانها به تولید محتوای واقعی برای دادههای آموزشی ادامه دهند. صنعت «هوش مصنوعی» به طور فعال ساختارهای انگیزشی آنها را برای ادامه کار تضعیف میکند. این مسئله در حالی است که کار آنها را بدون اجازه سرقت هم میکند.
وی افزود: ما بیشتر و بیشتر در «هوش مصنوعی» سرمایهگذاری خواهیم کرد تا جایی که پدیده «فروپاشی مدل» باعث شود پاسخهای این سامانه آنقدر بد شوند که حتی یک مدیر عامل کندذهن هم نتواند آن را نادیده بگیرد.
منبع : هوش مصنوعی
سینمای زیرزمینی ایران بررسی شد؛ از بحران بازنمایی تا اقتصاد نامرئی
روایت دبیر انجمن سرود کانون پرورش فکری از برگزاری یک جشنواره ملی
«حبیبی یا نبی»؛ نغمهای برای پیامبر رحمت
ریدلی اسکات با «ستاره های سگی» بدترین فیلمش را ساخت
«کوری» از پروندههای قضایی تا ممیزی؛ این سریال مروج مشروبات الکلی است؟
وقف رقیب اقتصاد کشور نیست
بیستمین آزمون سراسری قرآن پس از وقفه ای طولانی برگزار میشود
دانشمندی که هنوز رازهایش کشف نشده است؛ کیمیای رازی در تاریخ علم
تجلیل از ۴۵ چهره شاخص در اولین دوره جایزه جهانی دیپلماسی فرهنگی
تاسیس ۱۳ مؤسسه جدید فرهنگی قرآن و عترت
برگزاری آزمون بخش معارفی چهل و نهمین دوره مسابقات سراسری قرآن اوقاف
شرقشناسی بدون ایرانشناسی، امکان یا امتناع؟
متن نوبتدهی آرایشگاه برای عید؛ نمونههایی برای جذب مخاطب
دانشگاهها با ورزش تابآوری دانشجویان را تقویت کنند
راهنمای ثبتنام پذیرفتهشدگان دکتری دانشگاه علامه طباطبائی اعلام شد
پایان رویای «تنگه ترامپ» و غروب توهمات طاغوت روزگار در اعماق خلیج فارس
بهنام تشکر کارآگاه علوی جدید شد
برگزاری بزرگداشت ابن سینا با حضور اندیشمندان ایرانی و خارجی
تجربههای جهانی بازسازی پساجنگ در ۱۲ جلد کتاب
تلقی رایج از موسسات خیریه غلط است؛ انتشار نخستین گزارش زیست بوم خیریه
برگزاری جشنهای میلاد پیامبر مهربانیها با محوریت خونخواهی رهبر شهید
رجبی دوانی: نیازمند «انقلابی درون انقلاب» هستیم
آیا بین «امر تاریخی» و «امر ایمانی» می توان تمایزی مفهومی ایجاد کرد؟
ابنشهرآشوب روایات را دستکاری میکرد؟
تشخیص زودهنگام سرطان سینه با طراحی یک نانوزیستحسگر در دانشگاه تهران
استکبار جهانی به زبالهدان تاریخ میپیوندد؛ خونخواهی رهبر شهید حق ماست
حمایت مجری معروف اخبار عراق، از خلیج فارس+عکس
جدیدترین تصویر از آیت الله سیستانی
صعود دانشجوی دانشگاه آزاد به بام ایران با یاد دانشمند شهید دکتر طهرانچی +عکس
آغاز کلاسهای نیمسال اول دانشگاه صنعتی امیرکبیر از ۲۸ شهریور
حمله هکرهای ایرانی یک واحد تولید برق را در انگلیس تعطیل کرد
شکایت آمریکا از تیک تاک با ۴۰۰ میلیون دلار تسویه شد
واکنش قالیباف به جنگ اقتصادی ترامپ و داردستهاش+عکس
کلید اولیه ۵ آزمون علوم پزشکی منتشر شد
کلید اولیه آزمونهای سراسری و پذیرش دانشجو معلم سال ۱۴۰۵ منتشر شد
سنتهای اجتماعی قرآن، راهی برای فهم عمیق حوادث بزرگ اجتماعی
میراث علمی ادبی ابن سینا از زبان محققان روسی، ازبکستانی و گرجستانی
مسجد سوخته کوی نصر بازسازی و افتتاح شد
رهبر شهید چگونه «وابستگی موشکی» را پیش از شکلگیری خنثی کرد؟
تصویب عناوین درسی مدارس بینالملل ایران برای نخستینبار
برنامههای درسی دانشگاه فرهنگیان بهروزرسانی شود
افتخارآفرینی دانشآموزان ایرانی در رقابت بینالمللی نوآوری فیزیک مالزی
فروش کتابهای درسی دانشآموزان فقط از سامانه رسمی مقدور است
در جامعه مهدوی رفتارها بر پایه ایثار و حذف انگیزههای سودجویانه است
بحارالانوار گردآوری جهتدار احادیث نیست؛ مجلسی و شکل دهی جامعه شیعه
ورود دانشجویان جدید با تأخیر انجام میشود/ کلاسها حتما حضوری است
نتایج اولیه آزمون کارشناسی ارشد ۱۴۰۵ در دهه اول شهریور اعلام می شود
پذیرش پژوهشگران پسادکتری تقاضامحور در ۱۲ دانشگاه و مرکز پژوهشی کشور
خدمات مرکز مشاوره دانشگاه علم و صنعت حضوری شد
ثبتنام ۴ هزارنفر در فراخوان جذب هیئت علمی علوم پزشکی/اعلام ظرفیت خالی
کوانتوم در آستانه تجاریسازی/ ۵ حوزهای که کوانتوم در حال تغییر آنهاست
توسعه تعاملات علمی و پژوهشی ایران و کشورهای بریکس
اعلام جزئیات شهریه دانشجویان شهریهپرداز دانشگاه الزهرا(س)
تکلیف افزایش ۲۰ درصدی ظرفیت پزشکی و دندانپزشکی تا سال ۱۴۰۴ مشخص شد
کاظمی: فرهنگ ایثار و شهادت، مزیت رقابتی ما در برابر دنیای استکبار است
واکنش سید عباس عراقچی وزیر امور خارجه به ادعای کمرشکنترین عملیات اقتصادی تاریخ
«لباس شخصی»سراغ یک پرونده امنیتی رفت
۵ نمایشنامه از ۵ درامنویس زن خوانده میشود
شکست «ددپول و ولورین» توسط «اودیسه»؛ رایان رینولدز تبریک گفت!
حجت الاسلام قمی: «مسجد» محور جامعه مبعوث است
بازگشت عمو پورنگ پس از ۵ سال به سیما
حجتالاسلام قمی: مسجد باید پرچمدار حرکت مؤمنان و جامعهسازی باشد
حجت الاسلام قمی: مسجد محدود به اقامه نماز نیست
حکمرانی شبکهای امام هادی(ع) در زندان و منشور کلامی زیارت جامعه کبیره
از سامرای محاصرهشده تا عصر غیبت/روایت راهبرد امام عسکری(ع) برای شیعه
فیلمساز ایرانی داور جشنواره یونانی شد
سفر «سندرم بلوغ» به انگلیس
«سیاوش» به هیچ نهادی وابسته نیست؛ هزینهها کاملا شخصی است!
شنیدن زمزمه عود و تمبک در آلبومی که به خواهر تقدیم شد
پذیرش تفاوتها در یک انیمیشن؛ اگر زال شاهنامه دختر بود چه میشد؟
از شکلگیری ایده تا شروع کسبوکار؛ «کارخانه»در رادیو اقتصاد راه افتاد
نمایشی با الهام از جهان موراکامی؛ ارتباط بین هنرمند و مخاطب مهم است
۳ چهره بزرگ در یک فیلم؛ حمایت برد پیت از مستند ویم وندرس درباره زومتور
جزئیات فصل جدید یک رویداد موسیقایی؛ وقتی موسیقی از تهران خارج میشود
تصویر معناداری که قالیباف در کنار خلیج فارس منتشر کرد
امیر جدیدی و حمید نعمتالله در پشتِ صحنه سریال داش آکل
«عید بیعت» در میدان ولیعصر(عج) برگزار میشود
بازگشت حماسی مصدق به قدرت،کینه شاه و دربار علیه دولت ملی را تعمیق کرد
شهادت امام حسن عسکری (ع) هیئت کجا برویم؟
مشرکان عصر جاهلیت موحد بودند؟
کلید اولیه آزمونهای سراسری و پذیرش دانشجو معلم سال ۱۴۰۵ منتشر شد
نتایج اولیه آزمون کارشناسی ارشد ۱۴۰۵ در دهه اول شهریور اعلام می شود
پذیرش پژوهشگران پسادکتری تقاضامحور در ۱۲ دانشگاه و مرکز پژوهشی کشور
کلید اولیه ۵ آزمون علوم پزشکی منتشر شد
آغاز کلاسهای نیمسال اول دانشگاه صنعتی امیرکبیر از ۲۸ شهریور
بازگشت عمو پورنگ پس از ۵ سال به سیما
حجت الاسلام قمی: مسجد محدود به اقامه نماز نیست
حجتالاسلام قمی: مسجد باید پرچمدار حرکت مؤمنان و جامعهسازی باشد
حجت الاسلام قمی: «مسجد» محور جامعه مبعوث است
حمایت مجری معروف اخبار عراق، از خلیج فارس+عکس
ورود دانشجویان جدید با تأخیر انجام میشود/ کلاسها حتما حضوری است
برگزاری جشنهای میلاد پیامبر مهربانیها با محوریت خونخواهی رهبر شهید
برنامههای درسی دانشگاه فرهنگیان بهروزرسانی شود
در جامعه مهدوی رفتارها بر پایه ایثار و حذف انگیزههای سودجویانه است
جزئیات فصل جدید یک رویداد موسیقایی؛ وقتی موسیقی از تهران خارج میشود
فروش کتابهای درسی دانشآموزان فقط از سامانه رسمی مقدور است
رجبی دوانی: نیازمند «انقلابی درون انقلاب» هستیم
تجربههای جهانی بازسازی پساجنگ در ۱۲ جلد کتاب
رهبر شهید چگونه «وابستگی موشکی» را پیش از شکلگیری خنثی کرد؟
توسعه تعاملات علمی و پژوهشی ایران و کشورهای بریکس
شکست «ددپول و ولورین» توسط «اودیسه»؛ رایان رینولدز تبریک گفت!
سنتهای اجتماعی قرآن، راهی برای فهم عمیق حوادث بزرگ اجتماعی
حکمرانی شبکهای امام هادی(ع) در زندان و منشور کلامی زیارت جامعه کبیره
میراث علمی ادبی ابن سینا از زبان محققان روسی، ازبکستانی و گرجستانی
اعلام جزئیات شهریه دانشجویان شهریهپرداز دانشگاه الزهرا(س)
واکنش سید عباس عراقچی وزیر امور خارجه به ادعای کمرشکنترین عملیات اقتصادی تاریخ
۵ نمایشنامه از ۵ درامنویس زن خوانده میشود
«لباس شخصی»سراغ یک پرونده امنیتی رفت
تصویب عناوین درسی مدارس بینالملل ایران برای نخستینبار
تکلیف افزایش ۲۰ درصدی ظرفیت پزشکی و دندانپزشکی تا سال ۱۴۰۴ مشخص شد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.