به گزارش ثریا - پژوهشگران شرکت «اوپن ایآی»(OpenAI) در پژوهشی جدید اعلام کردند که دلیل رواج «توهم» مدلهای هوش مصنوعی را کشف کردهاند. این پدیدهای است که در آن سامانههایی مانند «چتجیپیتی»(ChatGPT) با اطمینان ادعاهایی را مطرح میکنند که واقعیت ندارند. آنها دریافتند که نحوه ارزیابی خروجی «مدلهای زبانی بزرگ»(LLM) مانند «چتجیپیتی»، برای خوب امتحان دادن بهینه شدهاند و حدس زدن در مواقع عدم قطعیت، عملکرد امتحان را بهبود میبخشد. به زبان ساده، سازندگان هوش مصنوعی آنها را ترغیب میکنند به جای اینکه اعتراف کنند پاسخ را نمیدانند، آن را حدس بزنند.
«توهم» یا «توهم مصنوعی» در هوش مصنوعی، یک پاسخ مطمئن توسط هوش مصنوعی است که به نظر نمیرسد با دادههای آموزشی آن توجیه شود. توهم هوش مصنوعی یک خروجی هوش مصنوعی مولد است که بیمعنی یا کاملاً نادرست است، اما اغلب اوقات کاملاً قابل قبول به نظر میرسد. برای مثال، یک چتبات در پاسخ به سؤال میزان درآمد تسلا با «توهم» و بدون اطلاع از درآمد این شرکت ممکن است یک عدد تصادفی را مانند ۱۳٫۶ میلیارد دلار انتخاب کند. چتبات این پاسخ را قابل قبول میداند و به دروغ، مکرراً اصرار میکند که درآمد تسلا ۱۳٫۶ میلیارد دلار است و هیچ نشانهای از آگاهی داخلی مبنی بر اینکه این عدد، محصول تخیل خودش است، ندارد.
به نقل از فیوچریسم، این استراتژی ممکن است یک رویکرد خوب در یک امتحان باشد، اما هنگام ارائه توصیههای مهم در مورد موضوعاتی مانند مسائل پزشکی یا قانونی، بسیار خطرناک است.
شرکت «اوپن ایآی» ادعا میکند که یک راه حل ساده برای این چالش وجود دارد. این راهحل شامل تنظیم مجدد ارزیابیهاست، به گونهای که به خطاهای مطمئن امتیازی بیشتر از خطاهای نامطمئن بدهیم و به پاسخی با عدم اطمینان، امتیاز کمی بدهیم. با این حال، یک متخصص درباره این استراتژی هشدار میدهد، زیرا این رویکرد میتواند پیامدهای تجاری ویرانگری را به همراه داشته باشد.
«وی ژینگ»(Wei Xing)، سخنران «دانشگاه شفیلد»(Sheffield) و متخصص بهینهسازی هوش مصنوعی استدلال کرد: صنعت هوش مصنوعی از نظر اقتصادی، تشویق به انجام این تغییرات نخواهد شد، زیرا انجام این کار میتواند به طرز چشمگیری هزینهها را افزایش دهد. حتی اگر «چتجیپیتی» تنها ۳۰ درصد مواقع اعتراف کند که پاسخ را نمیداند، کاربران به سرعت ناامید شده و سراغ سامانههای دیگری میروند. کاربرانی که به دریافت پاسخهای مطمئن به هر سؤالی عادت کردهاند، احتمالاً چنین سامانههایی را به سرعت رها خواهند کرد.
موضوع خطرناکتر، اعتراف مکرر هوش مصنوعی به این است که نمیتواند به یک سؤال با درجه اطمینان کافی پاسخ دهد. این موضوع میتواند کاربران را که به پاسخی با اطمینان بالا علاقه دارند، حتی اگر در نهایت پاسخ نادرست باشد، دلسرد کند. افزایش هزینهها در این مقطع میتواند بسیار زیانبار باشد. شرکتهای هوش مصنوعی سرمایهگذاریهای زیادی کردهاند و زیرساختها را برای اجرای مدلهایی که به طور فزایندهای نیازمند برق هستند، گسترش دادهاند. به عبارت دیگر، افزایش هزینههای عملیاتی سرسامآور میتواند یکی دیگر از موانع اصلی برای شرکتهایی مانند «اوپن ایآی» باشد، زیرا آنها در تلاش هستند تا به سرمایهگذاران اطمینان دهند که یک مدل تجاری عملی در بلندمدت وجود دارد.
«ژینگ» در پژوهش خود نوشت: مدلهای هوش مصنوعی در حالی که رویکردهای اثبات شدهای برای سنجش عدم قطعیت وجود دارد، ممکن است نیاز به محاسبات بسیار بیشتر داشته باشند، زیرا آنها باید چندین پاسخ ممکن را ارزیابی کرده و سطوح قطعیت را تخمین بزنند. این برای سامانهای که میلیونها پرسوجو را روزانه پردازش میکند، به معنای هزینههای عملیاتی بالاتری است. راهحلهای پیشنهادی این شرکت ممکن است برای «توهم» سامانههایی که عملیات تجاری حیاتی یا زیرساختهای اقتصادی را مدیریت میکنند کارساز باشد، زیرا هزینه «توهم» به مراتب از هزینه وادار کردن مدلها به تصمیمگیری در مورد قطعیت مطالب، فراتر میرود.
وی افزود: با این حال، برنامههای کاربردی مصرفکننده همچنان اولویتهای توسعه هوش مصنوعی را تشکیل میدهند. کاربران به سامانههایی نیاز دارند که پاسخهایی مطمئن را به هر سؤالی ارائه دهد.
رسیدن به پاسخی نامطمئن با سرعت بیشتر برای شرکتها کم هزینهتر است و میتواند انگیزه برای رویکردی دقیق و مطمئن را کاهش دهد. مشخص نیست که این روند با ادامه تغییر نیروهای بازار و یافتن راههای کارآمدتر توسط شرکتها برای اجرای مدلهای هوش مصنوعی خود، چگونه پیش خواهد رفت، اما یک مسئله بعید است که تغییر کند؛ حدس زدن همیشه یک گزینه به مراتب اقتصادیتر و مقرونبهصرفهتر برای این شرکتها خواهد بود.
«ژینگ» در پایان مطالعه خود نوشت: به طور خلاصه، پژوهش شرکت «اوپن ایآی»، ناخواسته یک حقیقت ناخوشایند را برجسته میکند؛ انگیزههای تجاری که توسعه هوش مصنوعی را هدایت میکنند، اساساً با کاهش «توهم» همسو نیستند و تا زمانی که این انگیزهها تغییر نکنند، این اختلال در سامانهها ادامه خواهد داشت.
منبع : هوش مصنوعی
بازخوانی پنج فرمان راهبردی امام رضا (ع) در سلوک عاشورایی
فلسفه اسلامی و غفلت از «باید و نباید»های اجتماعی؛ یک شکاف تاریخی
اقتصاد فقط نان نیست؛ سلاح علی(ع) برای امنیت ملی و استقلال در برابر دشمنان
انتشار آثار میانرشتهای مسئلهمحور؛ اولویت جدید گروه سیاستپژوهی علوم انسانی
تغییر زمان آزمونهای کشوری و دانشگاهی به دلیل مراسم وداع و تشییع رهبر شهید
احیای اخلاق در زندگی فردی و اجتماعی با بازخوانی فلسفه عاشورا
بنی امیه چگونه به قدرت رسید؟/ تبارشناسی ۹۱ سال حکومت استبدادی
دعوت از عاشقان اهل بیت برای شرکت در طرح توسعه حرم امام حسین (ع)
منطقه زینبیه استانبول سیاهپوش محرم شد؛ آغاز برنامه های عزاداری
رئیس سازمان فضایی ایران خبر داد: بهکارگیری ظرفیتهای ویژه ماهوارهای در تشییع رهبر شهید انقلاب
زنگ میراث فرهنگی و موزه در مدارس نواخته میشود
معافیت برخی المپیادها از کنکور و همزمانی آزمونها؛ همچنان چالش اصلی دانشآموزان
قابل توجه دانش آموزان: برنامه جدید امتحانات نهایی اعلام شد+جدول
هشدار به مدارس غیردولتی؛ با هرگونه دریافت شهریه غیرقانونی برخورد میشود
دبیر شورای عالی انقلاب فرهنگی: اختیار پذیرش دانشجویان به دانشگاهها واگذار شود
حاج اکبر مولایی در اولین شب از ماه محرم آسمانی شد
روایت شیخ حسین انصاریان از سه حقی که خداوند بر انسانها نهاده است
تجمعات خیابانی و مراسم ویژه در میادین تهران برای عزاداری محرم
مصرفگرایی؛ پارادایم فرهنگی که تمام زندگی بشر را تسخیر کرد
شروع برنامه ملی «میناب ۱۵۶»؛ بورسیه تحصیلی برای دانشجویان مستعد کمبرخوردار
علی دایی به دیدار اکبر عبدی رفت+عکس
خروج هواپیماهای سوخترسان آمریکایی از فلسطین اشغالی پس از تفاهم با ایران
امیرحسین مدرس برنامه نغمههای حسینی را به مناسبت ماه محرم اجرا میکند
منوچهر هادی: درآوردن سکانس صدای رئیس جمهور در سریال ۴۸ ساعت وقت گرفت
دیوارنگاره میدان ولیعصر (عج) حال و هوای محرمی گرفت
نمایش تابوت عهد در تالار سایه به روی صحنه میرود
پانتهآ پناهیها در نمایش جدید صابر ابر به روی صحنه میرود
زمان تشییع پیکر بهروز رضوی اعلام شد
مساجد پایگاههایی برای شناسایی استعدادهای درخشان
به یاد کودکان میناب در جام جهانی فوتبال
اخلاص و پیامرسانی؛ کلید ماندگاری عاشورا
نگاهی به پیشینه تاریخی ایرانیان در عزاداری محرم
شبکههای اجتماعی برای زیر ۱۶ سالهها ممنوع شد
تمرکز بر امنیت سایبری و تابآوری شبکه در ایام تشییع رهبر شهید
دانشگاه علوم پزشکی تهران رتبه ۷۰۱ جهان را کسب کرد؛ همچنان صدرنشین دانشگاههای ایران
محقق ایرانی پمپ مینیاتوری برای نرم روباتها ابداع کرد
اندیشمندان مسلمان از شهدای کودک میناب میگویند
خبر خوش برای فناوران علوم شناختی؛ حمایت بدون سقف از طرحهای فناوری
دانشجویان میتوانند اعتراض به احکام انضباطی را به وزارت علوم بدهند
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
زمان برگزاری آزمون کارشناسی ارشد ناپیوسته ۱۴۰۵ جابهجا شد
خودروهای خودران بایدو با نام «AmiGo» مجوز فعالیت در شرق سوئیس گرفتند
رقابت سخت منطقهای برای جذب دانشجویان خارجی؛ هشدار دانشگاه امیرکبیر
امضای تفاهمنامه مشترک دانشگاههای صنعتی UT۵ برای تقویت همافزایی
تغییر زمان امتحانات دانشگاهها در ایام تشییع رهبر شهید انقلاب
تأثیر مثبت نمرات پایه یازدهم در کنکور ۱۴۰۵؛ سوابق دوازدهم همچنان ۶۰ درصد
طرح «حامی» برای جبران کاستیهای یادگیری دانشآموزان اجرا میشود
وام ودیعه مسکن دانشجویان علوم پزشکی برای شهر تهران افزایش یافت
شهید لاریجانی؛ الگویی که مصلحت جامعه را بر فرد مقدم میدانست
بحران صندلی خالی در دانشگاهها؛ هشدار درباره آینده نزدیک
رئیس دانشگاه جامع انقلاب اسلامی: روحیه دفاع مقدس را در علم و فناوری بازتولید کنیم
حذف آزمون جامع در راه است؟ برنامه تحول وزارت علوم برای مقاطع کارشناسی تا دکتری
سنت منطقی اسلامی چگونه پشتوانه مواجهه با منطق ریاضی است؟
جهان اسلام به این روحانی فرزانه و اهل ادب میبالد
بانو مجتهده امین نماد توانمندی زنان است
بازیگر معروف: صداپیشگان شایسته دریافت اسکار بازیگری هستند
اختتامیه پویش ملی وطن به روایت من برگزار شد
اهدای نامه سید مجید موسوی و انگشتر یادبود به فرزند شهید سید مصطفی میرغفاری
حرمهای کربلا در آستانه محرم سیاه پوش شدند
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
هزینه ثبتنام جهش تحصیلی دانشآموزان اعلام شد
مجموعهکتاب «داستانهای غولی» درباره اهمیت آب به کودکان میآموزد
نگاهی به نقش توییتر در جنگ رسانهای دشمن در کتاب «توئیتری شدن سیاست»
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
طراح بازی «نجات دختران اپستین توسط بچههای میناب» از این بازی میگوید
درباره زندگی رازآمیز درختان در این کتاب بخوانید
هکرها پیامرسان دولتی فرانسه را هک کردند
رونمایی آستان مقدس علوی از پروژه نگارش نسخهای نفیس از نهجالبلاغه
اختراع کتی که هوا را به آب آشامیدنی تبدیل میکند
وزیر علوم: اساتید دانشگاه با امید و انگیزه در کلاس درس حاضر شوند
مقابله با موج محتوای غیرقانونی در بحرانها؛ بریتانیا شبکههای اجتماعی را ملزم به سازوکار ویژه کرد
شکایت جدید علیه OpenAI؛ ChatGPT نتوانست جلوی خودکشی کاربر را بگیرد
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
بازگشت ۴۵۰۰ دانشجوی دانشگاه شریف از امروز
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
آگهی/ از خرید کابل برق چه میدانید؟ راهنمایی که پیش از هر بازسازی باید بخوانید
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
ایلان ماسک نخستین تریلیونر دنیا میشود
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
افزایش سهمیه بومی در دستیاری دندانپزشکی؛ اعلام آخرین مهلت ثبتنام
مأموریت دانشگاهها در برنامه «مهر» برای حل بحران آب، ناترازی انرژی و تورم
وزیر علوم: دانشجویان جدیدالورود احتمالاً از نیمسال دوم وارد دانشگاه میشوند
اختتامیه پویش ملی وطن به روایت من برگزار شد
اپ ادیتس متا صاحب دستیار هوش مصنوعی می شود
تبدیل شدن آئین تعویض پرچم امام حسین(ع) به رویدادی جهانی
جنجال غیبت زنان در میان فضانوردان آرتمیس ۳
بحران صندلی خالی در دانشگاهها؛ هشدار درباره آینده نزدیک
شهید لاریجانی؛ الگویی که مصلحت جامعه را بر فرد مقدم میدانست
تکرار سنت اهریمنی استکبار در عاشورای ۱۴۰۵ در حمله به یک منابع آب
تأکید رئیس مرکز هیئت امنا و ممیزه بر نقش کلیدی فناوری در دفاع ملی
حذف آزمون جامع در راه است؟ برنامه تحول وزارت علوم برای مقاطع کارشناسی تا دکتری
امضای تفاهمنامه مشترک دانشگاههای صنعتی UT۵ برای تقویت همافزایی
جدایی متا از شریک چینی جنجالی کلید خورد
تاکید بر ارتقای کیفیت آموزش هُنر در مدارس
چه چیزی کلید مرگ را در کهکشانها میچرخاند؟
رئیس دانشگاه جامع انقلاب اسلامی: روحیه دفاع مقدس را در علم و فناوری بازتولید کنیم
اهدای نامه سید مجید موسوی و انگشتر یادبود به فرزند شهید سید مصطفی میرغفاری
خدمات ابری گوگل در هند مختل شد
تغییر زمان امتحانات دانشگاهها در ایام تشییع رهبر شهید انقلاب
زمان برگزاری آزمون کارشناسی ارشد ناپیوسته ۱۴۰۵ جابهجا شد
بازگشت ۴۵۰۰ دانشجوی دانشگاه شریف از امروز
زمان تشییع رهبر شهید اعلام شد +جزئیات را اینجا بخوانید
ایلان ماسک نخستین تریلیونر دنیا میشود
مجموعهکتاب «داستانهای غولی» درباره اهمیت آب به کودکان میآموزد
دانشجویان میتوانند اعتراض به احکام انضباطی را به وزارت علوم بدهند
توانمندسازی مدرسان آموزش خانواده با رویکرد جوانی جمعیت
رونمایی آستان مقدس علوی از پروژه نگارش نسخهای نفیس از نهجالبلاغه
درباره زندگی رازآمیز درختان در این کتاب بخوانید
تأثیر مثبت نمرات پایه یازدهم در کنکور ۱۴۰۵؛ سوابق دوازدهم همچنان ۶۰ درصد
نظراتی که حاوی توهین یا افترا به اشخاص ،قومیت ها ،عقاید دیگران باشد و یا با قوانین کشور وآموزه های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید.